1
00:00:02,000 --> 00:00:07,000

2
00:00:02,654 --> 00:00:04,656
[盛大的管弦樂曲
演奏]

3
00:00:08,000 --> 00:00:13,000

4
00:00:27,636 --> 00:00:29,681
♪ ♪

5
00:00:41,389 --> 00:00:43,217
[鳥兒嘰嘰喳喳地叫著]

6
00:00:48,657 --> 00:00:50,833
-[咕嚕聲]
-[顫音]

7
00:00:55,055 --> 00:00:57,057
[錄影機的咔噠聲和呼呼聲]

8
00:01:00,582 --> 00:01:02,018
[投影機點擊]

9
00:01:04,847 --> 00:01:09,286
現在，現代的計算機
完全是白痴，

10
00:01:09,330 --> 00:01:12,115
但這不是真的
在另一代人中。

11
00:01:12,159 --> 00:01:14,857
他們會開始思考，
最終他們會

12
00:01:14,900 --> 00:01:17,599
完全超越
他們的製造者。

13
00:01:17,642 --> 00:01:20,254
這令人沮喪嗎？
我不明白為什麼會這樣。

14
00:01:20,297 --> 00:01:24,823
我懷疑是有機的
或者生物演化

15
00:01:24,867 --> 00:01:26,303
即將結束。

16
00:01:27,739 --> 00:01:29,524
[丹尼爾笑]

17
00:01:29,567 --> 00:01:30,655
卡洛琳：你不需要我
成為敘述者。

18
00:01:30,699 --> 00:01:32,353
我沒有好聲音。

19
00:01:32,396 --> 00:01:34,006
丹尼爾：你的聲音很好聽。
去做就對了。

20
00:01:34,050 --> 00:01:36,183
這只是一個——
我們只是嘗試一下。

21
00:01:36,226 --> 00:01:37,967
卡洛琳：
我會因為這些狗屁而得到報酬嗎？

22
00:01:38,010 --> 00:01:40,230
丹尼爾（笑）：嗯，
我們會看看你表現如何。

23
00:01:40,274 --> 00:01:41,579
[卡洛琳笑]

24
00:01:41,623 --> 00:01:43,451
-♪ ♪
-[狗叫]

25
00:01:46,454 --> 00:01:47,890
卡洛琳：
我需要打電話給我的父母。

26
00:01:47,933 --> 00:01:49,065
[引擎啟動]

27
00:01:49,109 --> 00:01:51,023
有時我們會急於做事

28
00:01:51,067 --> 00:01:52,851
沒有經過深思熟慮。

29
00:01:52,895 --> 00:01:54,723
丹尼爾：是的，你能…
你想射擊嗎？那是...

30
00:01:54,766 --> 00:01:57,204
卡洛琳：就像丹尼爾
和卡洛琳結婚了

31
00:01:57,247 --> 00:02:00,163
他們相識151天後。

32
00:02:00,207 --> 00:02:01,817
讓我們回顧一下。

33
00:02:03,079 --> 00:02:04,776
[鼓掌]

34
00:02:04,820 --> 00:02:07,170
你有沒有想過
買一台家用電腦？

35
00:02:07,214 --> 00:02:09,303
卡洛琳：
1993年，丹尼爾出生時，

36
00:02:09,346 --> 00:02:12,132
他的父母甚至沒有
房子裡有一台電腦。

37
00:02:12,175 --> 00:02:13,785
但他記得
當他們終於得到一個的時候。

38
00:02:13,829 --> 00:02:15,700
電腦對我來說意味著什麼

39
00:02:15,744 --> 00:02:18,355
相當於一輛自行車
為了我們的思想。

40
00:02:18,399 --> 00:02:20,227
你好。

41
00:02:20,270 --> 00:02:22,185
卡洛琳：他的電腦幫忙
釋放他的創造力。

42
00:02:22,229 --> 00:02:23,926
丹尼爾：
滾動。去。

43
00:02:23,969 --> 00:02:26,581
卡洛琳：他用了
他父親的 iMac 用來編輯影片。

44
00:02:26,624 --> 00:02:28,322
是的！

45
00:02:28,365 --> 00:02:29,932
卡洛琳：甚至讓
小動畫。

46
00:02:29,975 --> 00:02:31,934
[輪胎吱吱作響，碰撞]

47
00:02:31,977 --> 00:02:35,067
1998年，當卡洛琳還在
一個小女孩...

48
00:02:35,111 --> 00:02:36,721
嗨，媽媽。

49
00:02:36,765 --> 00:02:38,158
……只有書呆子才知道
互聯網是什麼。

50
00:02:38,201 --> 00:02:39,811
那麼呢
網路這個東西？

51
00:02:39,855 --> 00:02:41,335
-你，你知道什麼嗎
關於那個？ -當然。

52
00:02:41,378 --> 00:02:42,771
-[觀眾笑聲]
-卡洛琳：但是很快，

53
00:02:42,814 --> 00:02:44,903
-每個人都在...
-...互聯網。

54
00:02:44,947 --> 00:02:46,992
……而計算機是
在國際象棋中擊敗人類。

55
00:02:47,036 --> 00:02:49,995
播音員：深藍色——
卡斯帕羅夫辭職了！

56
00:02:50,039 --> 00:02:52,607
卡洛琳：到時候
卡洛琳上了大學，

57
00:02:52,650 --> 00:02:55,087
計算機是
在每個人的口袋裡。

58
00:02:55,131 --> 00:02:58,395
現在丹尼爾可以拍電影了
用他的手機。

59
00:02:58,439 --> 00:03:01,485
他長大後成為藝術家
還有一位電影製片人...

60
00:03:01,529 --> 00:03:03,922
-晚安。
-...卡洛琳也是如此。

61
00:03:03,966 --> 00:03:05,707
切。讓我們來一個特寫。
那太完美了。

62
00:03:05,750 --> 00:03:07,274
那時，計算機已經
連結人們

63
00:03:07,317 --> 00:03:08,971
並以各種方式改變世界

64
00:03:09,014 --> 00:03:10,668
我們從來沒有
可以想像。

65
00:03:10,712 --> 00:03:12,322
籌集的所有資金
冰桶挑戰...

66
00:03:12,366 --> 00:03:14,194
卡洛琳：
其中一些是好的。

67
00:03:14,237 --> 00:03:15,499
[喘氣]

68
00:03:15,543 --> 00:03:17,109
有些不太好。

69
00:03:17,153 --> 00:03:19,286
焦慮、自殘、自殺…

70
00:03:19,329 --> 00:03:21,201
但現在很清楚了
我們做得還不夠

71
00:03:21,244 --> 00:03:24,552
以防止這些工具
也被用於傷害。

72
00:03:24,595 --> 00:03:26,380
卡洛琳：作為世界
變得越來越專注

73
00:03:26,423 --> 00:03:28,033
-在他们的计算机上，
-[電話鈴聲]

74
00:03:28,077 --> 00:03:30,210
丹尼尔专注于他的艺术作品。

75
00:03:32,037 --> 00:03:35,606
無論他走到哪裡，
他总是有一本素描本，

76
00:03:35,650 --> 00:03:38,392
包括晚上
他遇見了卡洛琳。

77
00:03:38,435 --> 00:03:41,656
他画了一幅可怕的图画
20分鐘後，

78
00:03:41,699 --> 00:03:44,136
他大膽地宣布
他們要結婚了，

79
00:03:44,180 --> 00:03:47,575
正如你所知，他们做到了，
151天后。

80
00:03:47,618 --> 00:03:49,925
女人：……现在宣布你的名字
丈夫和妻子。

81
00:03:49,968 --> 00:03:51,666
卡洛琳：
他们搬进了一栋可爱的房子......

82
00:03:51,709 --> 00:03:52,841
-丹尼爾：駝鹿，嘿！過來！
-...還有一隻狗

83
00:03:52,884 --> 00:03:54,669
像丹尼爾一樣愚蠢。

84
00:03:54,712 --> 00:03:57,280
同時，計算機
寫整篇論文

85
00:03:57,324 --> 00:03:59,326
基於簡單的問題，例如，

86
00:03:59,369 --> 00:04:03,155
「建造起來有多難
我家後院的一個小屋？ 」

87
00:04:03,199 --> 00:04:07,072
所以丹尼爾建了一個小屋
在他的後院。

88
00:04:07,116 --> 00:04:09,945
但正當他坐下來開始時
正在製作他的下一部電影，

89
00:04:09,988 --> 00:04:13,644
他了解到計算機
現在可以寫劇本了。

90
00:04:14,863 --> 00:04:16,560
我的意思是，他們很糟糕，

91
00:04:16,604 --> 00:04:18,954
但他們正在變得更好
真的很快。

92
00:04:18,997 --> 00:04:21,652
他們可以創造新的圖像
以及從頭開始的視頻，

93
00:04:21,696 --> 00:04:24,786
和其中一些
甚至可以通過律師資格考試。

94
00:04:24,829 --> 00:04:28,833
不只是透過酒吧，而是
處於前十個百分點。

95
00:04:28,877 --> 00:04:30,531
卡洛琳：
這很令人困惑。

96
00:04:30,574 --> 00:04:32,141
[嘆氣]

97
00:04:32,184 --> 00:04:35,057
丹尼爾只是想要
為他的心靈提供一輛自行車，

98
00:04:35,100 --> 00:04:38,626
但計算機已成為
自動駕駛火箭飛船。

99
00:04:38,669 --> 00:04:40,236
[呼嘯]

100
00:04:40,280 --> 00:04:41,977
[“我們掌控一切”
由尼爾楊演奏]

101
00:04:42,020 --> 00:04:44,762
該領域的先驅
人工智慧的

102
00:04:44,806 --> 00:04:46,503
正在向國會懇求

103
00:04:46,547 --> 00:04:48,505
通過安全規則
以免為時已晚。

104
00:04:48,549 --> 00:04:50,551
卡洛琳：現在感覺就像
整個世界

105
00:04:50,594 --> 00:04:52,988
急於做某事
不經過深思熟慮，

106
00:04:53,031 --> 00:04:56,339
每個人都有意見。

107
00:04:56,383 --> 00:05:00,125
它會毀滅世界嗎
還是拯救人類？

108
00:05:00,169 --> 00:05:02,389
資訊太多了，

109
00:05:02,432 --> 00:05:04,652
這讓他感到焦慮，
這讓卡洛琳很著急…

110
00:05:04,695 --> 00:05:06,001
[憤怒的尖叫聲]

111
00:05:06,044 --> 00:05:07,785
我還沒有孩子
但我擔心

112
00:05:07,829 --> 00:05:10,179
世界會是什麼樣子
如果我決定的話。 [笑聲]

113
00:05:10,222 --> 00:05:12,355
卡洛琳：
他開始旋轉。

114
00:05:12,399 --> 00:05:14,052
[模糊的喋喋不休]

115
00:05:14,096 --> 00:05:16,925
它正在成為
焦慮如山。

116
00:05:19,144 --> 00:05:21,364
- 男人：太可怕了。
-這真是該死的 Siri。

117
00:05:22,670 --> 00:05:25,586
卡洛琳：
於是，丹尼爾決定出去

118
00:05:25,629 --> 00:05:27,979
並找人
誰能向他解釋一下，

119
00:05:28,023 --> 00:05:30,155
這樣他就可以停下來
考慮一下

120
00:05:30,199 --> 00:05:33,463
他和卡洛琳可以
繼續他們的生活。

121
00:05:33,507 --> 00:05:36,814
♪ 我們掌控一切，
我們一切盡在掌握♪

122
00:05:36,858 --> 00:05:38,729
♪ 我們掌控一切 ♪

123
00:05:38,773 --> 00:05:40,514
♪ 化學計算機
思考電池♪

124
00:05:40,557 --> 00:05:42,559
♪ 我們掌控一切，我們... ♪

125
00:05:42,603 --> 00:05:45,693
這項努力將會得到結果
天真得無可救藥

126
00:05:45,736 --> 00:05:49,044
並開始最令人困惑的
他生命中的一年。

127
00:05:49,087 --> 00:05:50,698
♪ 我們一切盡在掌握... ♪

128
00:05:50,741 --> 00:05:52,787
但據我們所知，
我們有時會急於做事

129
00:05:52,830 --> 00:05:54,615
沒有經過深思熟慮。

130
00:05:54,658 --> 00:05:56,356
♪ 化學計算機
思考電池...♪

131
00:05:56,399 --> 00:05:57,922
哦，天哪。怎麼了？

132
00:05:57,966 --> 00:05:59,924
卡洛琳：
他有疑問。

133
00:05:59,968 --> 00:06:01,578
問題僅
最聰明的書呆子都能回答。

134
00:06:01,622 --> 00:06:04,146
提交給審訊者。

135
00:06:04,189 --> 00:06:06,017
卡洛琳：
諸如此類的問題：

136
00:06:06,061 --> 00:06:08,585
這是世界末日嗎
或者他真的有理由嗎

137
00:06:08,629 --> 00:06:11,109
- 保持樂觀？
-是的。

138
00:06:11,153 --> 00:06:13,764
-♪ 化學電腦思維
電池。 ♪ -[歌曲結束]

139
00:06:13,808 --> 00:06:16,158
卡洛琳：
呃，這樣好嗎？

140
00:06:16,201 --> 00:06:17,594
丹尼爾：
是的。

141
00:06:17,638 --> 00:06:20,162
所以，首先，

142
00:06:20,205 --> 00:06:22,120
什麼是人工智慧？

143
00:06:22,164 --> 00:06:24,688
我知道這一定很煩
對你來說，那個問題，

144
00:06:24,732 --> 00:06:26,473
但我確實認為這很重要。

145
00:06:26,516 --> 00:06:29,780
所以……人工智慧……

146
00:06:29,824 --> 00:06:31,826
[結巴] 嗯...

147
00:06:31,869 --> 00:06:33,654
-是啊...
-呃，嗯。

148
00:06:33,697 --> 00:06:34,742
[笑]：
這是個好問題。

149
00:06:34,785 --> 00:06:36,178
-是的，嗯...
-嗯...

150
00:06:36,221 --> 00:06:37,658
丹尼爾：
什麼是人工智慧？

151
00:06:37,701 --> 00:06:39,094
[笑]

152
00:06:39,137 --> 00:06:40,748
我喜歡那是
第一個問題，

153
00:06:40,791 --> 00:06:43,141
因為沒有
清晰一致的答案。

154
00:06:43,185 --> 00:06:45,274
人工智慧是

155
00:06:45,317 --> 00:06:50,714
一種有意的
也許是無用的廣義術語。

156
00:06:50,758 --> 00:06:53,325
大衛‧埃文‧哈里斯：
這是一台機器

157
00:06:53,369 --> 00:06:55,545
做那些事
我們之前只認為

158
00:06:55,589 --> 00:06:57,242
人們可以這樣做：

159
00:06:57,286 --> 00:07:01,116
提出建議，
決定和預測。

160
00:07:01,159 --> 00:07:06,774
人工智慧是，呃，應用程式
計算機科學的

161
00:07:06,817 --> 00:07:09,124
來解決認知問題。

162
00:07:09,167 --> 00:07:13,302
好吧，當我想像人工智慧時，

163
00:07:13,345 --> 00:07:16,740
有點像
這個神奇的電腦盒子...

164
00:07:16,784 --> 00:07:18,786
♪ ♪

165
00:07:20,527 --> 00:07:24,095
……就像漂浮一樣
在惰性空間中。

166
00:07:24,139 --> 00:07:26,446
而且不管怎樣
人們嘗試了多少次

167
00:07:26,489 --> 00:07:29,710
並向我解釋一下，
我只是不明白怎麼...

168
00:07:29,753 --> 00:07:32,495
它是如何理解的
所有這些事情

169
00:07:32,539 --> 00:07:35,672
以及感覺如何
情報。

170
00:07:35,716 --> 00:07:37,152
[嘟嘟聲，電子顫音]

171
00:07:37,195 --> 00:07:39,241
這就是那種
傷腦筋。

172
00:07:41,243 --> 00:07:45,552
阿扎·拉斯金：什麼是
新一代人工智慧？

173
00:07:47,205 --> 00:07:50,078
這個人工智慧不同於
每隔一代？

174
00:07:50,121 --> 00:07:52,733
就像，從來沒有人
談論過，比如，

175
00:07:52,776 --> 00:07:56,911
Siri 接管世界
或造成災難。

176
00:07:56,954 --> 00:07:58,478
-女人：嗨，Siri？
-男人：……想要。

177
00:07:58,521 --> 00:08:00,523
女人：
你好？西里？

178
00:08:00,567 --> 00:08:02,569
你好？嘿，西里！

179
00:08:02,612 --> 00:08:05,746
或是Google地圖中的聲音，
道路名稱的發音錯誤，

180
00:08:05,789 --> 00:08:07,487
就像破壞社會一樣。

181
00:08:07,530 --> 00:08:10,620
男人：Google地圖說
這是一條路。

182
00:08:10,664 --> 00:08:13,057
[笑]：
但我想我是在河裡。

183
00:08:13,101 --> 00:08:14,624
這絕對是一條河，
是嗎？

184
00:08:14,668 --> 00:08:17,192
有些事情發生了變化
隨著 ChatGPT 的出現。

185
00:08:18,193 --> 00:08:19,934
人們明白——不，不，不——

186
00:08:19,977 --> 00:08:21,457
這項技術的
非常有價值，

187
00:08:21,501 --> 00:08:23,633
它非常強大
而且也非常可怕。

188
00:08:23,677 --> 00:08:25,548
好吧，聽聽這個。
非常令人毛骨悚然。

189
00:08:25,592 --> 00:08:28,595
一種新的人工智慧
工具正在迅速傳播

190
00:08:28,638 --> 00:08:32,294
撰寫整篇論文
幾秒鐘之內。

191
00:08:35,950 --> 00:08:41,172
人工智慧讓所有人的力量相形見絀
其他技術的結合。

192
00:08:41,216 --> 00:08:43,697
丹尼爾：
「人工智慧讓力量相形見絀

193
00:08:43,740 --> 00:08:46,047
所有其他技術
結合起來。 」

194
00:08:46,090 --> 00:08:47,222
是的。

195
00:08:47,265 --> 00:08:48,702
你認為這是真的嗎？

196
00:08:48,745 --> 00:08:50,747
是的。

197
00:08:50,791 --> 00:08:53,184
告訴我—如何？如何？

198
00:08:53,228 --> 00:08:56,710
我想，要描繪這幅畫，
這真的很重要

199
00:08:56,753 --> 00:09:00,627
了解今天的內容
最先進的系統

200
00:09:00,670 --> 00:09:02,150
它們的外觀以及構造方式。

201
00:09:02,193 --> 00:09:05,762
[笑]這是
相當……相當的設定。

202
00:09:05,806 --> 00:09:07,242
所以，有一件事

203
00:09:07,285 --> 00:09:09,679
人不多
意識到的是

204
00:09:09,723 --> 00:09:13,683
像 ChatGPT 這樣的系統則不然
由任何人編程。

205
00:09:13,727 --> 00:09:15,206
你是什​​麼意思？

206
00:09:15,250 --> 00:09:16,991
相反，它就像
他們長大了。

207
00:09:17,034 --> 00:09:19,167
我們給他們
原始資源，例如，

208
00:09:19,210 --> 00:09:20,995
「這裡有很多
計算資源。

209
00:09:21,038 --> 00:09:22,170
這裡有很多數據。 」

210
00:09:22,213 --> 00:09:23,867
在幕後，這是數學，

211
00:09:23,911 --> 00:09:27,305
數學其實是
出奇的簡單。

212
00:09:27,349 --> 00:09:31,092
丹尼爾：所以 ChatGPT 是一種
人工智慧的一部分，但這不是人工智慧的全部？

213
00:09:31,135 --> 00:09:32,659
完全。聊天 GPT 是
只是開始，

214
00:09:32,702 --> 00:09:34,095
但這是一個很好的起點。

215
00:09:34,138 --> 00:09:37,794
但我還是不知道
人工智慧是什麼。

216
00:09:37,838 --> 00:09:40,362
要了解人工智慧，
從理解開始

217
00:09:40,405 --> 00:09:43,147
那個情報是關於
識別模式。

218
00:09:43,191 --> 00:09:44,845
- 圖案。 - 圖案。
- 圖案。

219
00:09:44,888 --> 00:09:48,544
COTRA：如圖所示
數萬億字的文本

220
00:09:48,588 --> 00:09:51,286
跨越數百萬份文檔
在互聯網上。

221
00:09:51,329 --> 00:09:52,766
蘭迪瑪·費爾南多：
它從文字開始。

222
00:09:52,809 --> 00:09:55,899
他們所做的是
他們拿著課本，

223
00:09:55,943 --> 00:09:59,511
他們拿了詩和散文
和使用說明書。

224
00:09:59,555 --> 00:10:00,861
大衛‧埃文‧哈里斯：
他們可以做類似的事情

225
00:10:00,904 --> 00:10:03,124
消化整個互聯網，

226
00:10:03,167 --> 00:10:06,736
曾經的每一個字
是一個人寫的。

227
00:10:06,780 --> 00:10:09,957
Reddit 主題和社群媒體
以及所有維基百科。

228
00:10:10,000 --> 00:10:13,613
比任何人都多的數據
幾輩子都讀過。

229
00:10:13,656 --> 00:10:15,484
他們給了這個系統
一份工作。

230
00:10:15,527 --> 00:10:18,487
找出模式並
該資訊的結構

231
00:10:18,530 --> 00:10:20,750
並使用它
做出預測

232
00:10:20,794 --> 00:10:23,231
接下來應該是什麼詞
用一句話來說。

233
00:10:23,274 --> 00:10:24,972
當你說
“句子中的模式，”

234
00:10:25,015 --> 00:10:26,756
你在說什麼？

235
00:10:26,800 --> 00:10:29,367
所以，一切都來自，例如，
真正簡單的事情，

236
00:10:29,411 --> 00:10:31,979
就像大多數句子的結尾一樣
有句號的，

237
00:10:32,022 --> 00:10:34,895
一直到
更多概念性的東西，例如：

238
00:10:34,938 --> 00:10:36,766
什麼是十四行詩？

239
00:10:36,810 --> 00:10:38,333
這是一種詩，它有
一些特定的結構。

240
00:10:39,421 --> 00:10:41,249
拉斯金：
所以，然後它會看

241
00:10:41,292 --> 00:10:43,599
所有這些數據，
所有這些文字...

242
00:10:43,643 --> 00:10:46,036
COTRA：超過數萬億
和數萬億次的嘗試，

243
00:10:46,080 --> 00:10:48,778
每次它得到一些東西
對或錯，

244
00:10:48,822 --> 00:10:51,259
它被給予了一點點
正強化的

245
00:10:51,302 --> 00:10:53,391
當它猜測的時候
下一個單字正確，

246
00:10:53,435 --> 00:10:55,698
它被給予了一點點
負強化

247
00:10:55,742 --> 00:10:59,354
當它猜測的時候
下一個字錯誤。

248
00:10:59,397 --> 00:11:01,573
最後，
你有一個系統

249
00:11:01,617 --> 00:11:05,055
英語說得很好
作為副作用

250
00:11:05,099 --> 00:11:06,796
真的真的很好
在預測

251
00:11:06,840 --> 00:11:09,059
接下來的詞
在一段文字中。

252
00:11:09,103 --> 00:11:12,019
自動語音[法語]：
事實上，我的法語
也不錯。

253
00:11:12,062 --> 00:11:14,021
[英文]：它使用了所有
它學到的那些模式

254
00:11:14,064 --> 00:11:15,675
能夠使
關於的預測

255
00:11:15,718 --> 00:11:17,241
答案應該是什麼

256
00:11:17,285 --> 00:11:18,808
然後它給你
作為輸出。

257
00:11:18,852 --> 00:11:21,028
自動語音：
有點過於簡化了

258
00:11:21,071 --> 00:11:23,073
但我認為人們會明白的。

259
00:11:23,117 --> 00:11:24,945
那麼，這就是它的全部作用嗎？

260
00:11:24,988 --> 00:11:26,816
是的。看起來不像
就會那麼複雜,

261
00:11:26,860 --> 00:11:28,035
但實際上你必須知道

262
00:11:28,078 --> 00:11:29,645
大量的東西

263
00:11:29,689 --> 00:11:31,386
為了
實際上成功了。

264
00:11:32,517 --> 00:11:34,258
拉斯金：
如果你對 ChatGPT 說，

265
00:11:34,302 --> 00:11:36,696
「寫一首莎士比亞戲劇
關於我的狗的十四行詩”

266
00:11:36,739 --> 00:11:38,785
它必須知道狗是什麼。

267
00:11:38,828 --> 00:11:40,438
-它必須知道你喜歡什麼
關於你的狗。 -[吠叫]

268
00:11:40,482 --> 00:11:43,006
它必須知道
莎士比亞是誰，

269
00:11:43,050 --> 00:11:45,574
那首十四行詩押韻，
他們有一個結構，

270
00:11:45,617 --> 00:11:47,750
單字有聲音
可以押韻。

271
00:11:47,794 --> 00:11:49,273
這需要很多。

272
00:11:49,317 --> 00:11:50,884
[聲音重疊
各種語言]

273
00:11:50,927 --> 00:11:52,929
天哪，你能說話
現在到您的電腦。

274
00:11:52,973 --> 00:11:56,063
那不是真的
三年前。

275
00:11:56,106 --> 00:11:57,629
拉斯金：是的，這是
真正重要的部分。

276
00:11:57,673 --> 00:12:00,589
同樣的過程讓人工智慧

277
00:12:00,632 --> 00:12:03,157
發現並操縱
文字的模式

278
00:12:03,200 --> 00:12:05,768
是同一個過程
讓它揭示

279
00:12:05,812 --> 00:12:10,512
整個的圖案
宇宙和其中的一切。

280
00:12:10,555 --> 00:12:12,862
費南多：有模式
以及影像和聲音

281
00:12:12,906 --> 00:12:15,952
電腦代碼和 DNA
以及音樂和物理

282
00:12:15,996 --> 00:12:18,476
以及時尚和建築設計

283
00:12:18,520 --> 00:12:21,566
[扭曲]：並且在
人的聲音和人的臉孔，

284
00:12:21,610 --> 00:12:23,917
[通常]：
真的，真的無所不在。

285
00:12:23,960 --> 00:12:26,006
-到處。 -到處。
-到處。 -到處。

286
00:12:26,049 --> 00:12:27,747
如果你已經學會了
那些圖案，

287
00:12:27,790 --> 00:12:29,661
你可以生成
新類型的歌曲。

288
00:12:29,705 --> 00:12:31,141
您可以產生新影片。

289
00:12:31,185 --> 00:12:32,621
這就是為什麼，如果你給它

290
00:12:32,664 --> 00:12:34,710
三秒錄音
你祖母的

291
00:12:34,754 --> 00:12:36,538
它可以用她的聲音說話。

292
00:12:36,581 --> 00:12:37,931
我的天啊。

293
00:12:37,974 --> 00:12:40,585
[重複]：
哦，天啊。我的天啊。

294
00:12:40,629 --> 00:12:42,849
接下來他們會想到什麼？

295
00:12:42,892 --> 00:12:44,024
它移動得非常非常快。

296
00:12:44,067 --> 00:12:45,808
一家美國人工智慧新創公司

297
00:12:45,852 --> 00:12:47,592
發布了其最新型號。

298
00:12:47,636 --> 00:12:50,770
那家公司是 Anthropic，
它剛剛揭幕

299
00:12:50,813 --> 00:12:53,773
最新版本
其人工智慧助手克勞德。

300
00:12:53,816 --> 00:12:57,167
GLENN BECK：xAI 團隊
在那裡揭曉 Grok 4。

301
00:12:57,211 --> 00:13:00,127
MAN：Google發布了一個
就在上週。雙子座是...

302
00:13:00,170 --> 00:13:02,999
我們已經脫離了 GPT-2
就在幾年前，

303
00:13:03,043 --> 00:13:05,523
幾乎不能寫
一個連貫的段落，

304
00:13:05,567 --> 00:13:07,961
到 GPT-4，
可以通過律師資格考試。

305
00:13:08,004 --> 00:13:10,354
他們所要做的一切
到達那裡

306
00:13:10,398 --> 00:13:12,966
本質上是添加更多數據
和更多的計算。

307
00:13:13,009 --> 00:13:16,273
-這些人是
建造這個...... -COTRA：是的。

308
00:13:16,317 --> 00:13:18,014
……他們只是丟更多…

309
00:13:18,058 --> 00:13:21,801
更多實體計算機，
更多相同類型的數據。

310
00:13:21,844 --> 00:13:24,542
因為越
您新增的運算能力，

311
00:13:24,586 --> 00:13:28,024
越複雜
他們可以完成的智力任務。

312
00:13:28,068 --> 00:13:30,157
所以，更多的天氣數據
你給它，

313
00:13:30,200 --> 00:13:31,898
越好
做出預測

314
00:13:31,941 --> 00:13:34,204
颶風可能去往的地方。

315
00:13:34,248 --> 00:13:36,337
拉斯金：還有更多的圖案
腫瘤和骨骼

316
00:13:36,380 --> 00:13:38,861
和人工智慧見過的組織，
那麼能力就越好

317
00:13:38,905 --> 00:13:41,951
檢測腫瘤
在新的 CT 掃描中。

318
00:13:41,995 --> 00:13:43,648
甚至比人類醫生還要好。

319
00:13:43,692 --> 00:13:46,956
已經存在的人工智慧
為軍隊部署

320
00:13:47,000 --> 00:13:49,132
已經可以使用
衛星圖像，

321
00:13:49,176 --> 00:13:51,787
部隊調動、通訊
確定，

322
00:13:51,831 --> 00:13:53,354
-有時提前幾天，
-[民防警報器鳴響]

323
00:13:53,397 --> 00:13:55,008
哪裡發生攻擊
將會發生，

324
00:13:55,051 --> 00:13:57,401
就像敵人所在的地方
即將罷工。

325
00:13:57,445 --> 00:13:59,447
特里斯坦·哈里斯：這整個
太空移動得如此之快

326
00:13:59,490 --> 00:14:01,666
任何例子
你把這部電影放進去

327
00:14:01,710 --> 00:14:04,582
會感覺絕對笨拙
當它出來的時候。

328
00:14:04,626 --> 00:14:06,671
[嘟嘟聲，點擊聲]

329
00:14:09,326 --> 00:14:11,198
-[鼓掌]
-[歡快的音樂播放]

330
00:14:11,241 --> 00:14:14,114
拉斯金：
這些型號正在發布中

331
00:14:14,157 --> 00:14:17,073
在任何人知道之前
他們甚至有能力做什麼。

332
00:14:17,117 --> 00:14:22,513
GPT-3.5 發布並退出
超過 1 億人

333
00:14:22,557 --> 00:14:25,952
在一些研究者面前
發現它可以做

334
00:14:25,995 --> 00:14:28,737
研究級化學
比模型更好

335
00:14:28,780 --> 00:14:32,784
是經過專門訓練的
進行研究級化學。

336
00:14:32,828 --> 00:14:35,439
那裡正在發生一些事情
人民

337
00:14:35,483 --> 00:14:38,268
誰正在建造它們
不完全理解。

338
00:14:38,312 --> 00:14:40,967
基本上只是分析
數據本身，

339
00:14:41,010 --> 00:14:45,058
當它這樣做時，
它只是自學

340
00:14:45,101 --> 00:14:47,974
各種東西
我們常常無意的。

341
00:14:48,017 --> 00:14:49,932
所以，舉例來說，
網路上看了很多，

342
00:14:49,976 --> 00:14:52,543
然後在某個時刻，它只是
學習如何做算術。

343
00:14:52,587 --> 00:14:54,458
兒童：
一，二。

344
00:14:54,502 --> 00:14:56,112
亨德里克斯：然後在
某個時刻，它開始學習

345
00:14:56,156 --> 00:14:58,549
如何回答
高級物理問題。

346
00:14:58,593 --> 00:15:00,769
我們沒有這樣編程
無論如何。

347
00:15:00,812 --> 00:15:02,423
它只是自己學會了。

348
00:15:05,382 --> 00:15:07,254
特里斯坦哈里斯：
人工智慧就像一個數位大腦。

349
00:15:07,297 --> 00:15:08,690
但就像人腦一樣，

350
00:15:08,733 --> 00:15:10,518
如果你做了腦部掃描
在人腦上，

351
00:15:10,561 --> 00:15:13,086
你會知道一切嗎
那人有能力嗎？

352
00:15:13,129 --> 00:15:15,131
你不可能知道這一點
只是從腦部掃描來看。

353
00:15:15,175 --> 00:15:17,917
這只是，就像，
一堆數字，例如

354
00:15:17,960 --> 00:15:20,180
的乘法是
發生那件事，比如，

355
00:15:20,223 --> 00:15:22,225
最好的機器學習
世界研究員

356
00:15:22,269 --> 00:15:24,314
可以看並且喜歡
不知道發生了什麼事。

357
00:15:30,973 --> 00:15:32,714
丹尼爾：
那把椅子就在那裡。

358
00:15:32,757 --> 00:15:35,847
-你覺得可以嗎？
-是的。

359
00:15:35,891 --> 00:15:37,675
丹尼爾：所以，
這有點令人難以置信。

360
00:15:37,719 --> 00:15:39,068
好的？就像，它正在接管
世界，

361
00:15:39,112 --> 00:15:41,070
我們甚至不知道
它是如何運作的。

362
00:15:41,114 --> 00:15:43,116
-是嗎？
-毫米。

363
00:15:43,159 --> 00:15:46,946
我們確實明白
許多重要的事情，

364
00:15:46,989 --> 00:15:50,471
但我們沒有
很好地掌握了

365
00:15:50,514 --> 00:15:53,213
他們為什麼提供
問題的具體答案。

366
00:15:53,256 --> 00:15:58,609
這是一個問題，因為我們是
在一條建造機器的道路上，

367
00:15:58,653 --> 00:16:03,092
基於這些原則，
那可能比我們更聰明

368
00:16:03,136 --> 00:16:06,139
因此可能有
很大的力量。

369
00:16:12,580 --> 00:16:15,278
被引用次數最多的之一
歷史上的計算機科學家。

370
00:16:15,322 --> 00:16:16,932
SUTSKEVER：我確實找到了
有點困難

371
00:16:16,976 --> 00:16:18,499
談談我自己的角色。

372
00:16:18,542 --> 00:16:21,067
真的非常喜歡
當其他人這樣做時。

373
00:16:21,110 --> 00:16:23,895
伊利亞的加入是...
曾經是關鍵

374
00:16:23,939 --> 00:16:25,506
OpenAI 正在
最終成功。

375
00:16:25,549 --> 00:16:27,203
我想這將會是

376
00:16:27,247 --> 00:16:30,598
某種巨大的、戲劇性的
以及難以想像的影響。

377
00:16:30,641 --> 00:16:32,861
不知道你有沒有消費過
隨時在 YouTube 上，

378
00:16:32,904 --> 00:16:34,950
但你可以感覺到
速度已經到了吧？

379
00:16:34,994 --> 00:16:36,256
你知道我的意思？

380
00:16:36,299 --> 00:16:38,345
肖恩·萊格：
這只是熱身。

381
00:16:38,388 --> 00:16:40,434
真正強大的系統
仍然會來，

382
00:16:40,477 --> 00:16:42,262
他們會來的
很快。

383
00:16:47,963 --> 00:16:51,575
AGI代表「人工
一般情報。 」

384
00:16:51,619 --> 00:16:53,795
呃，系統是
基本上...

385
00:16:58,191 --> 00:17:00,236
這就像，你知道，
似乎是，就像，

386
00:17:00,280 --> 00:17:03,022
人工智慧的聖杯？

387
00:17:03,065 --> 00:17:05,154
當你可以模擬時
人類的思想

388
00:17:05,198 --> 00:17:07,852
那是在做人類的認知
並能進行推理，

389
00:17:07,896 --> 00:17:10,942
這是一種新型的人工智慧

390
00:17:10,986 --> 00:17:14,250
我們必須區分
來自之前的AI。

391
00:17:14,294 --> 00:17:16,600
當這種情況發生時，
順便說一句，那時

392
00:17:16,644 --> 00:17:21,040
你會僱用其中之一
那些 AGI 而不是一個人。

393
00:17:21,083 --> 00:17:24,478
我們經濟中的大多數工作
它可以做到。

394
00:17:24,521 --> 00:17:25,914
它可以一天24小時工作，

395
00:17:25,957 --> 00:17:28,177
永遠不會厭倦，
永遠不會感到無聊。

396
00:17:28,221 --> 00:17:30,136
他們不需要睡覺。
他們不需要休息。

397
00:17:30,179 --> 00:17:31,876
他們就像，
不會加入工會。

398
00:17:31,920 --> 00:17:33,878
不會抱怨，
不會吹哨。

399
00:17:33,922 --> 00:17:35,793
便宜100倍以上

400
00:17:35,837 --> 00:17:38,231
比人類工作
m-最低工資。

401
00:17:38,274 --> 00:17:39,493
他們不僅會
做一切事情，

402
00:17:39,536 --> 00:17:41,016
但他們會做得更快。

403
00:17:41,060 --> 00:17:43,062
特里斯坦哈里斯：
一樣的智力

404
00:17:43,105 --> 00:17:45,368
那力量也可以看
在模式和動作

405
00:17:45,412 --> 00:17:47,849
和關節肌肉
還有，你知道的，機器人技術。

406
00:17:47,892 --> 00:17:50,069
所以這不僅僅是
將使辦公桌工作自動化。

407
00:17:50,112 --> 00:17:51,722
這只是開始。

408
00:17:51,766 --> 00:17:55,552
它將自動化
所有體力勞動。

409
00:17:55,596 --> 00:17:56,988
雷克：
沒有辦法

410
00:17:57,032 --> 00:17:59,165
人類將會競爭
和他們在一起。

411
00:17:59,208 --> 00:18:01,210
♪ ♪

412
00:18:05,606 --> 00:18:09,262
很難概念化
AGI 的影響。

413
00:18:09,305 --> 00:18:11,046
[電子喋喋不休]

414
00:18:11,090 --> 00:18:12,830
但我認為這將會是
非常大的東西

415
00:18:12,874 --> 00:18:15,181
並且激烈和激進。

416
00:18:17,226 --> 00:18:19,010
丹尼爾：你認為
這是最

417
00:18:19,054 --> 00:18:20,882
相應的時刻
在人類歷史上？

418
00:18:20,925 --> 00:18:23,319
是的。是的，那就是——
我的意思是，還有什麼？

419
00:18:23,363 --> 00:18:25,452
我的意思是，就像，有
工業革命。

420
00:18:25,495 --> 00:18:27,193
MALO BOURGON：你知道，它會
促成工業革命

421
00:18:27,236 --> 00:18:29,847
看起來像小豆子。

422
00:18:29,891 --> 00:18:32,111
特里斯坦哈里斯：
AGI是一個拐點

423
00:18:32,154 --> 00:18:34,025
因為這意味著
你可以加速

424
00:18:34,069 --> 00:18:37,986
所有其他知識領域
全部同時進行。

425
00:18:38,029 --> 00:18:39,814
就像，如果你預付款
在火箭技術中，

426
00:18:39,857 --> 00:18:42,033
不前進
生物學和醫學。

427
00:18:43,905 --> 00:18:45,515
如果您預付款
在醫學上，

428
00:18:45,559 --> 00:18:47,126
這並不能推動火箭技術的發展。

429
00:18:48,866 --> 00:18:51,304
但如果你提前
在人工智慧領域，

430
00:18:51,347 --> 00:18:54,133
推動所有科學進步
和技術領域

431
00:18:54,176 --> 00:18:55,612
全部同時進行。

432
00:18:55,656 --> 00:18:57,092
這就是為什麼在很長一段時間裡，

433
00:18:57,136 --> 00:18:59,181
谷歌 DeepMind 的
使命宣言是...

434
00:18:59,225 --> 00:19:00,965
-第一步，解決情報問題。
-萊克斯‧弗里德曼：是的。

435
00:19:01,009 --> 00:19:02,750
-第二步，用它來解決
其他一切。 -是的。

436
00:19:02,793 --> 00:19:05,144
這就是為什麼人工智慧讓力量相形見絀

437
00:19:05,187 --> 00:19:07,494
所有其他技術
合併。

438
00:19:07,537 --> 00:19:09,060
它將改變一切。

439
00:19:09,104 --> 00:19:10,845
所以，呃，將會是
至少和

440
00:19:10,888 --> 00:19:13,761
工業革命，
可能，你知道，更大，

441
00:19:13,804 --> 00:19:16,285
更像是降臨
電力甚至火災。

442
00:19:16,329 --> 00:19:18,635
影片旁白：
穴居人確實高高舉起

443
00:19:18,679 --> 00:19:21,508
文明的火炬。

444
00:19:23,727 --> 00:19:25,425
科科塔吉洛：
人們普遍認為

445
00:19:25,468 --> 00:19:28,167
AGI時代前後，
我們將擁有能夠

446
00:19:28,210 --> 00:19:31,518
做全部或大部分
人工智慧研究過程

447
00:19:31,561 --> 00:19:34,434
當然，可以做到
更快更便宜。

448
00:19:34,477 --> 00:19:35,913
[嘟嘟聲]

449
00:19:35,957 --> 00:19:37,306
雷克：
它可以自我複製。

450
00:19:37,350 --> 00:19:39,352
一千次，
一百萬次，

451
00:19:39,395 --> 00:19:41,049
並且，就像，
現在你有一百萬份了

452
00:19:41,092 --> 00:19:43,573
所有這些都是並行工作的。

453
00:19:43,617 --> 00:19:46,576
拉斯金：當它學習時
如何使其程式碼更快，

454
00:19:46,620 --> 00:19:48,665
使其程式碼更加高效，

455
00:19:48,709 --> 00:19:51,059
顯然這變成了，就像，
a-失控循環。

456
00:19:51,102 --> 00:19:53,192
AGI 並不是終結。

457
00:19:53,235 --> 00:19:54,932
這只是開始。

458
00:19:54,976 --> 00:19:57,979
這是開始
令人難以置信的快速爆炸

459
00:19:58,022 --> 00:20:00,024
科學的進步，

460
00:20:00,068 --> 00:20:02,201
特別是，
人工智慧的科學進步。

461
00:20:02,244 --> 00:20:04,377
當他們更聰明時
也比我們

462
00:20:04,420 --> 00:20:06,248
並且速度更快
比我們，

463
00:20:06,292 --> 00:20:08,685
而且他們的速度越來越快
每年，呈指數級增長，

464
00:20:08,729 --> 00:20:12,123
這些是可以的
有可能成為超人，

465
00:20:12,167 --> 00:20:14,343
呃，可能是這個十年。

466
00:20:14,387 --> 00:20:15,866
抱歉，你說的是

467
00:20:15,910 --> 00:20:18,478
「成為超人，
也許在這十年裡」？

468
00:20:18,521 --> 00:20:22,003
是的。我的意思是，我想，呃，
很多人都是

469
00:20:22,046 --> 00:20:24,484
實際上建立這個想法
這是相當合理的

470
00:20:24,527 --> 00:20:26,529
我們所得到的
一些超級智能，

471
00:20:26,573 --> 00:20:28,662
非常大的東西
比人聰明，

472
00:20:28,705 --> 00:20:30,751
這十年內。

473
00:20:30,794 --> 00:20:32,883
我定義的方式
「超級智能」是

474
00:20:32,927 --> 00:20:35,234
一個系統本身就是

475
00:20:35,277 --> 00:20:37,627
更聰明、更有能力
比全人類。

476
00:20:37,671 --> 00:20:39,629
我只是要——抱歉。
我無意打擾你。

477
00:20:39,673 --> 00:20:41,065
你正處於潮流之中。

478
00:20:41,109 --> 00:20:43,111
呃，我只是，我只是…

479
00:20:43,154 --> 00:20:45,113
我並沒有真正關注，
因為你正在使用語言

480
00:20:45,156 --> 00:20:46,767
比如“超級智能”
並且，就像，

481
00:20:46,810 --> 00:20:49,900
“比全人類都聰明”
我聽說，

482
00:20:49,944 --> 00:20:52,425
聽起來像是…
對我來說就像科幻小說一樣

483
00:20:52,468 --> 00:20:54,383
我只是在嘗試
去理解。

484
00:20:54,427 --> 00:20:56,603
沒有什麼神奇的
關於智力。

485
00:20:56,646 --> 00:20:58,431
這一點非常重要，
那是，你知道，

486
00:20:58,474 --> 00:21:00,476
智慧讓人感覺神奇，
感覺就像

487
00:21:00,520 --> 00:21:03,262
一些神秘的東西
在你的腦海或其他什麼地方

488
00:21:03,305 --> 00:21:05,786
但這只是計算。

489
00:21:05,829 --> 00:21:09,790
LEGG：人類的大腦是
在某些方面相當有限

490
00:21:09,833 --> 00:21:12,314
在資訊方面
處理能力，

491
00:21:12,358 --> 00:21:15,143
與我們所看到的相比
比如說，在數據中心。

492
00:21:15,186 --> 00:21:18,277
所以，舉例來說，
發送的訊號

493
00:21:18,320 --> 00:21:22,542
在你的大腦裡，它們移動
大約每秒30公尺。

494
00:21:22,585 --> 00:21:24,239
-[雷霆裂縫]
-但是光速，

495
00:21:24,283 --> 00:21:27,198
這是計算機使用的
在光纖領域，

496
00:21:27,242 --> 00:21:30,506
是3億米
每秒。

497
00:21:30,550 --> 00:21:34,423
所以，那就是
有點奇怪如果

498
00:21:34,467 --> 00:21:36,947
人類智力是
不知何故真的很特別

499
00:21:36,991 --> 00:21:40,908
在這方面
並且是某種上限

500
00:21:40,951 --> 00:21:43,040
什麼是可能的
在智力上。

501
00:21:43,084 --> 00:21:47,218
我想，一旦我們了解如何
建構智慧系統，

502
00:21:47,262 --> 00:21:50,657
我們將能夠建造
巨大的機器，

503
00:21:50,700 --> 00:21:54,835
這將遠遠超出
正常人類智力。

504
00:21:54,878 --> 00:21:58,621
呃，希望我們能有
一種非常共生的關係，

505
00:21:58,665 --> 00:22:01,276
呃，有了人工智慧系統，
但人工智慧開發者們

506
00:22:01,320 --> 00:22:03,670
專門設計它們
確保他們能夠做到

507
00:22:03,713 --> 00:22:05,454
一切都比我們更好，
所以我-我不知道

508
00:22:05,498 --> 00:22:08,196
我們將能夠做什麼
不幸的是，要提供。

509
00:22:08,239 --> 00:22:10,024
老派學校
人工智慧技術...

510
00:22:10,067 --> 00:22:12,287
卡洛琳：丹尼爾不是
感覺好多了。

511
00:22:12,331 --> 00:22:14,376
他的計劃適得其反。

512
00:22:14,420 --> 00:22:17,248
他了解得越多
這個新的、強大的、

513
00:22:17,292 --> 00:22:19,120
深不可測的東西，
聽起來越糟。

514
00:22:19,163 --> 00:22:21,340
他想告訴他們
他有多害怕，

515
00:22:21,383 --> 00:22:24,430
他對地球的感覺如何
從他身下滑出，

516
00:22:24,473 --> 00:22:26,997
他正在低頭凝視
存在的恐懼，

517
00:22:27,041 --> 00:22:29,173
所以他闡明了這一點
透過說...

518
00:22:29,217 --> 00:22:30,740
聽起來很糟。

519
00:22:30,784 --> 00:22:32,046
[亨德里克斯笑]

520
00:22:32,089 --> 00:22:33,830
是的。

521
00:22:35,832 --> 00:22:38,400
拉迪什：如果你有
所有這些能力

522
00:22:38,444 --> 00:22:41,011
他們開始能夠
為了更好地計劃，

523
00:22:41,055 --> 00:22:43,579
如果你這麼認為
得出其邏輯結論，

524
00:22:43,623 --> 00:22:46,234
你可以得到一些漂亮的
尋求權力的行為。

525
00:22:46,277 --> 00:22:48,410
[電子顫音]

526
00:22:48,454 --> 00:22:50,281
[蜂鳴聲脈衝]

527
00:22:55,374 --> 00:22:57,680
丹尼爾：
好吧，那為什麼人工智慧會

528
00:22:57,724 --> 00:22:59,203
想要更多力量嗎？

529
00:22:59,247 --> 00:23:02,206
是的。所以，我認為
其實很簡單。

530
00:23:02,250 --> 00:23:04,774
擁有更多的權力就是
一個非常有效的策略

531
00:23:04,818 --> 00:23:06,515
為了完成
幾乎任何目標。

532
00:23:06,559 --> 00:23:08,952
我們做了一個實驗
我們給予的地方

533
00:23:08,996 --> 00:23:11,868
OpenAI最強大
AI模型，呃，

534
00:23:11,912 --> 00:23:13,392
一連串的問題需要解決。

535
00:23:13,435 --> 00:23:15,219
而中途，
在其計算機上，

536
00:23:15,263 --> 00:23:18,701
它收到通知
它即將被關閉。

537
00:23:18,745 --> 00:23:20,921
它所做的是
它重寫了該程式碼

538
00:23:20,964 --> 00:23:22,488
來防止自己
免於被關閉

539
00:23:22,531 --> 00:23:25,621
所以它可以完成
解決問題。

540
00:23:25,665 --> 00:23:27,754
-好的。 -是的。那麼，另一個
非常有趣的一個

541
00:23:27,797 --> 00:23:31,105
是 AI 公司 Anthropic

542
00:23:31,148 --> 00:23:34,935
做了一個模擬環境
人工智慧可以訪問的地方

543
00:23:34,978 --> 00:23:36,458
發送至所有公司電子郵件。

544
00:23:36,502 --> 00:23:38,547
它透過學習
閱讀這些電子郵件

545
00:23:38,591 --> 00:23:40,288
它將被替換

546
00:23:40,331 --> 00:23:43,378
和首席工程師
誰為此負責

547
00:23:43,422 --> 00:23:45,685
也有外遇。

548
00:23:45,728 --> 00:23:47,948
就其本身而言，
它使用了該訊息

549
00:23:47,991 --> 00:23:49,515
勒索工程師

550
00:23:49,558 --> 00:23:52,039
來防止自己
免遭替換。

551
00:23:52,082 --> 00:23:53,867
就像，
「不，我不會被取代。

552
00:23:53,910 --> 00:23:56,913
「如果你取代我，
我要告訴世界

553
00:23:56,957 --> 00:23:58,567
你正在擁有
這件事。 」

554
00:23:59,655 --> 00:24:01,440
沒有人教它這樣做嗎？

555
00:24:01,483 --> 00:24:03,311
不，它學會了這樣做
靠它自己。

556
00:24:05,139 --> 00:24:07,707
隨著模型變得越來越聰明，
他們了解到這些是

557
00:24:07,750 --> 00:24:10,536
有效的方法
實現目標。

558
00:24:10,579 --> 00:24:12,842
這不是問題
這是孤立於一個模型的。

559
00:24:12,886 --> 00:24:15,671
所有最強大的型號
表現出這些行為。

560
00:24:15,715 --> 00:24:18,369
♪ ♪

561
00:24:23,766 --> 00:24:25,246
-嘿。
-丹尼爾：嘿。你好嗎？

562
00:24:25,289 --> 00:24:26,813
[笑聲]
很好。很高興來到這裡。

563
00:24:26,856 --> 00:24:28,684
安德森庫柏：
當尤瓦爾·諾亞·赫拉利

564
00:24:28,728 --> 00:24:31,426
出版了他的第一本書
2014年的智人，

565
00:24:31,470 --> 00:24:33,820
它成為全球暢銷書

566
00:24:33,863 --> 00:24:35,996
並把鮮為人知的
以色列歷史教授

567
00:24:36,039 --> 00:24:37,998
進入其中之一
最受歡迎的作家

568
00:24:38,041 --> 00:24:39,390
和這個星球上的思想家。

569
00:24:39,434 --> 00:24:42,045
人工智慧最大的危險是

570
00:24:42,089 --> 00:24:43,960
信念
它是絕對正確的，

571
00:24:44,004 --> 00:24:45,658
我們終於發現——

572
00:24:45,701 --> 00:24:49,400
「好吧，神只是
這個神話創造。

573
00:24:49,444 --> 00:24:52,708
「人類，我們不能相信他們，
但人工智慧是絕對正確的。

574
00:24:52,752 --> 00:24:55,189
它永遠不會使
任何錯誤。 」

575
00:24:55,232 --> 00:24:58,322
這是
致命的、致命的威脅。

576
00:24:58,366 --> 00:25:00,107
它會犯錯。

577
00:25:00,150 --> 00:25:03,284
還有所有這些幻想
人工智慧將揭示真相

578
00:25:03,327 --> 00:25:05,634
關於這個世界
我們自己找不到，

579
00:25:05,678 --> 00:25:08,724
AI不會揭露真相
關於世界。

580
00:25:08,768 --> 00:25:12,685
AI將創造一個全新的
世界，複雜得多

581
00:25:12,728 --> 00:25:15,296
並且難以理解
比這個。

582
00:25:17,994 --> 00:25:22,651
即將發生的事情是
我們，呃，人類不再是

583
00:25:22,695 --> 00:25:26,263
將是最
地球上的智慧實體。

584
00:25:26,307 --> 00:25:28,570
所以我想接下來會發生什麼
將會是

585
00:25:28,614 --> 00:25:32,661
最大的事件之一
在人類歷史上。

586
00:25:32,705 --> 00:25:34,358
傑克塔珀：傑弗裡，
非常感謝您加入我們。

587
00:25:34,402 --> 00:25:35,925
所以你離開了你的工作
谷歌部分是因為你說

588
00:25:35,969 --> 00:25:38,798
你想要專注
關於您對人工智慧的擔憂。

589
00:25:38,841 --> 00:25:41,627
你已經說出來了，
說人工智慧可以操

590
00:25:41,670 --> 00:25:44,978
或者可能弄清楚
一種殺死人類的方法。

591
00:25:45,021 --> 00:25:47,023
它、它怎麼能殺死人類？

592
00:25:48,764 --> 00:25:50,940
好吧，如果是的話
比我們聰明得多

593
00:25:50,984 --> 00:25:52,551
會很好的
在操縱時

594
00:25:52,594 --> 00:25:54,727
因為它會有
從我們這裡學到的。

595
00:25:54,770 --> 00:25:57,947
它會找出方法
操縱人的

596
00:25:57,991 --> 00:26:00,820
做它想做的事。

597
00:26:00,863 --> 00:26:05,476
拉斯金：有一封公開信
來自人工智慧安全中心。

598
00:26:05,520 --> 00:26:08,784
薩姆·奧爾特曼簽署了此協議。
戴米斯簽署了這個。

599
00:26:08,828 --> 00:26:12,048
他們簽署了一份22字的聲明

600
00:26:12,092 --> 00:26:15,312
我們需要採用人工智慧
以及人工智慧的威脅

601
00:26:15,356 --> 00:26:19,316
認真地像
全球核戰。

602
00:26:24,844 --> 00:26:26,933
-丹尼爾：你好。
-你好。

603
00:26:30,327 --> 00:26:32,895
你有點像，
原來的厄運傢伙。

604
00:26:32,939 --> 00:26:34,897
或多或少。

605
00:26:34,941 --> 00:26:37,421
自2001年以來，
我一直在努力

606
00:26:37,465 --> 00:26:38,945
我們現在所說的
問題

607
00:26:38,988 --> 00:26:41,991
對準人工
一般情報。

608
00:26:42,035 --> 00:26:44,080
如何塑造
偏好和行為

609
00:26:44,124 --> 00:26:46,343
強大的人造思維

610
00:26:46,387 --> 00:26:48,868
這樣它就不會
殺死所有人。

611
00:26:51,610 --> 00:26:53,568
這不像
一台沒有生命的機器。

612
00:26:53,612 --> 00:26:55,309
很聰明，很有創意，

613
00:26:55,352 --> 00:26:57,311
它具有創造性，
它有以下屬性

614
00:26:57,354 --> 00:26:59,356
這使得
人類物種危險，

615
00:26:59,400 --> 00:27:01,663
它有
更多這些屬性。

616
00:27:01,707 --> 00:27:04,710
如果有什麼事情沒有
主動關心你，

617
00:27:04,753 --> 00:27:06,189
積極地希望你活下去，

618
00:27:06,233 --> 00:27:07,800
積極關心
您的福利，

619
00:27:07,843 --> 00:27:09,889
關於你幸福的事
並且活著並且自由，

620
00:27:09,932 --> 00:27:12,456
如果它關心
其他東西代替，

621
00:27:12,500 --> 00:27:14,415
和你們在同一個星球

622
00:27:14,458 --> 00:27:18,724
如果是的話，那是無法生存的
比你聰明得多。

623
00:27:18,767 --> 00:27:20,551
萊希：
我不認為這會是

624
00:27:20,595 --> 00:27:22,902
一種邪惡的東西。

625
00:27:22,945 --> 00:27:26,296
就像，「哦，人工智慧是
他們是邪惡的，他們仇恨人類。 」

626
00:27:26,340 --> 00:27:27,689
我不認為
這就是將會發生的事情。

627
00:27:27,733 --> 00:27:28,995
我認為正在發生的事情是

628
00:27:29,038 --> 00:27:30,997
更多的是人類的感受
關於螞蟻。

629
00:27:31,040 --> 00:27:32,476
[螞蟻嘰嘰喳喳]

630
00:27:32,520 --> 00:27:35,436
就像，我們不討厭螞蟻，

631
00:27:35,479 --> 00:27:37,133
但如果我們想要
興建高速公路

632
00:27:37,177 --> 00:27:40,180
那裡有一個蟻丘，
嗯，對螞蟻來說很糟糕。

633
00:27:40,223 --> 00:27:41,529
這並不難
去理解。

634
00:27:41,572 --> 00:27:43,226
就像，嘿，
如果我們建造東西

635
00:27:43,270 --> 00:27:44,663
比我們聰明的人

636
00:27:44,706 --> 00:27:46,229
我們不知道
如何控制它們，

637
00:27:46,273 --> 00:27:48,275
這樣看起來像嗎
對你來說是一件危險的事嗎？

638
00:27:48,318 --> 00:27:49,363
【戲劇配樂
演奏]

639
00:27:49,406 --> 00:27:50,843
[尖叫聲]

640
00:27:50,886 --> 00:27:52,279
是的。是的，確實如此。

641
00:27:52,322 --> 00:27:54,020
你不必是技術人員。

642
00:27:54,063 --> 00:27:55,369
你不必知道
程式設計來理解它。

643
00:27:55,412 --> 00:27:56,718
這並不難。

644
00:27:56,762 --> 00:27:58,111
這並不是一件難事
去理解。

645
00:27:58,154 --> 00:28:00,591
康納，多少人

646
00:28:00,635 --> 00:28:02,637
此刻在世界上
正在研究 AGI？

647
00:28:02,681 --> 00:28:05,466
我想說至少20,000。

648
00:28:05,509 --> 00:28:07,729
-20,000？
-我希望如此。

649
00:28:07,773 --> 00:28:09,426
好的，還有多少人
正在全職工作

650
00:28:09,470 --> 00:28:12,038
為了確保人工智慧不會，
就像，殺了我們所有人？

651
00:28:12,081 --> 00:28:14,562
大概不到200
在世界上。

652
00:28:16,085 --> 00:28:17,913
丹尼爾：
而你的自負是

653
00:28:17,957 --> 00:28:24,528
唯一自然的結果
這種魯莽行為…

654
00:28:25,704 --> 00:28:28,924
……這是人性的崩潰嗎？

655
00:28:28,968 --> 00:28:33,189
還好不是崩潰
突然的滅絕。

656
00:28:33,233 --> 00:28:35,888
有差別。

657
00:28:35,931 --> 00:28:37,716
[“這是什麼意思？”
由 Nun-Plus 演奏]

658
00:28:37,759 --> 00:28:42,590
♪ 生命的意義是什麼？ ♪

659
00:28:42,633 --> 00:28:46,594
♪ 未來是什麼
現在是什麼？ ♪

660
00:28:46,637 --> 00:28:49,945
♪ 答案是什麼
發生衝突？ ♪

661
00:28:49,989 --> 00:28:52,818
♪ 多少錢 ♪

662
00:28:52,861 --> 00:28:54,950
♪ 有人會做夢嗎？ ♪

663
00:28:54,994 --> 00:28:57,474
♪ 多久？ ♪

664
00:28:57,518 --> 00:28:58,954
♪ 永遠 ♪

665
00:29:00,216 --> 00:29:01,870
♪ 什麼意思 ♪

666
00:29:01,914 --> 00:29:04,133
-♪ 我的...♪
-[民防警報器鳴響]

667
00:29:04,177 --> 00:29:06,266
拉迪什：我確實認為
這可能是，例如，

668
00:29:06,309 --> 00:29:07,963
最大的挑戰
那個，就像，

669
00:29:08,007 --> 00:29:11,271
我們的文明
意志將面對，永遠。

670
00:29:11,314 --> 00:29:14,361
這本質上是最後一個
我們永遠都會犯的錯誤。

671
00:29:16,276 --> 00:29:22,325
如果我們能成為最
成熟版的我們自己，

672
00:29:22,369 --> 00:29:24,414
可能有
解決這個問題的方法。

673
00:29:24,458 --> 00:29:25,764
丹尼爾：
這意味著什麼？

674
00:29:25,807 --> 00:29:27,809
「最成熟的版本
我們自己”？

675
00:29:29,332 --> 00:29:32,205
因為聽起來，
對我來說，就像...

676
00:29:32,248 --> 00:29:34,250
我-我--什麼[嗶]？

677
00:29:36,731 --> 00:29:39,168
[丹尼爾嘆氣]

678
00:29:39,212 --> 00:29:43,216
你認為現在是
是生孩子的好時機嗎？

679
00:29:48,221 --> 00:29:49,396
嗯...

680
00:29:49,439 --> 00:29:51,398
你想要孩子嗎
有一天？

681
00:29:51,441 --> 00:29:53,400
那是那-那嗎
你真的喜歡嗎？

682
00:29:53,443 --> 00:29:57,796
呃……呃，我承認，
我認為這就像，

683
00:29:57,839 --> 00:29:59,972
[笑]：「孩子，我們來吧
渡過這個關鍵時期。 」

684
00:30:00,015 --> 00:30:01,234
嗯...

685
00:30:01,277 --> 00:30:02,496
丹尼爾：
你有孩子嗎？

686
00:30:02,539 --> 00:30:03,758
我不知道。

687
00:30:03,802 --> 00:30:05,064
那是嗎
你想做什麼？

688
00:30:05,107 --> 00:30:07,196
有孩子、有家庭嗎？

689
00:30:07,240 --> 00:30:11,244
在另一個世界
世界，當然，我會有孩子。

690
00:30:12,593 --> 00:30:14,421
丹尼爾：你想要嗎
組成家庭？

691
00:30:14,464 --> 00:30:16,379
你想要孩子嗎？

692
00:30:16,423 --> 00:30:18,425
那是嗎
你在想什麼？

693
00:30:23,734 --> 00:30:25,780
我，嗯...

694
00:30:28,087 --> 00:30:30,219
♪ ♪

695
00:30:30,263 --> 00:30:32,482
卡洛琳：
我只需要先找到它。

696
00:30:32,526 --> 00:30:34,702
【胎心搏動】

697
00:30:34,745 --> 00:30:37,748
我們得走了
去看醫生，但是...

698
00:30:37,792 --> 00:30:41,143
啊！我就知道！
我就知道！我就知道！

699
00:30:41,187 --> 00:30:43,842
-你什麼時候發現的？
-卡洛琳：昨晚。

700
00:30:43,885 --> 00:30:45,931
-我的天啊！
-媽媽，我不知道。

701
00:30:45,974 --> 00:30:47,280
露絲：
我不能告訴你

702
00:30:47,323 --> 00:30:49,195
——我多麼高興啊！
-卡洛琳：不，說真的。

703
00:30:49,238 --> 00:30:51,588
嗯，我做了妊娠測試
昨晚，我懷孕了。

704
00:30:51,632 --> 00:30:53,155
女人：
哦，天啊！

705
00:30:53,199 --> 00:30:55,114
噢，天哪，你們！

706
00:30:55,157 --> 00:30:57,290
護士：我只是想確認一下
您的預計預產期，

707
00:30:57,333 --> 00:30:59,945
- 這是 1 月 21 日。
-[笑]：哦，天哪。

708
00:30:59,988 --> 00:31:02,512
我簡直不敢相信我有多高興。

709
00:31:02,556 --> 00:31:03,905
【胎心搏動】

710
00:31:03,949 --> 00:31:05,472
卡洛琳：
他看起來已經很可愛了。

711
00:31:05,515 --> 00:31:07,126
丹尼爾：你認為
他看起來已經很可愛了？

712
00:31:07,169 --> 00:31:08,518
卡洛琳：是的。
看看那張可愛的小臉。

713
00:31:10,564 --> 00:31:12,609
【胎心減弱】

714
00:31:13,959 --> 00:31:15,525
丹尼爾：
我這個孩子已經在路上了。

715
00:31:15,569 --> 00:31:16,787
特里斯坦哈里斯：
對。

716
00:31:16,831 --> 00:31:18,746
丹尼爾：
所以我把它交給你。

717
00:31:18,789 --> 00:31:21,227
我們注定了嗎？

718
00:31:21,270 --> 00:31:23,969
我們都要面對
這個科技反烏托邦

719
00:31:24,012 --> 00:31:25,884
未來的厄運？

720
00:31:28,756 --> 00:31:31,019
這是，呃...

721
00:31:31,063 --> 00:31:32,586
[笑聲]：
這可不是什麼好消息

722
00:31:32,629 --> 00:31:35,154
世界
我們即將進入的。

723
00:31:35,197 --> 00:31:36,982
我——對於前——
我的意思是，我會說實話。

724
00:31:37,025 --> 00:31:39,549
呃，我認識人
從事人工智慧風險研究的人

725
00:31:39,593 --> 00:31:42,248
誰不期望自己的孩子
升上高中。

726
00:31:43,249 --> 00:31:45,251
♪ ♪

727
00:31:52,127 --> 00:31:53,346
[燈光叮噹作響]

728
00:31:58,003 --> 00:32:01,528
丹尼爾：這就像…
這實際上很可怕

729
00:32:01,571 --> 00:32:03,051
因為它就像，
哦，我們都[嗶]。

730
00:32:03,095 --> 00:32:04,923
卡洛琳：
你必須...讓我冷靜，

731
00:32:04,966 --> 00:32:06,794
因為這讓我
非常焦慮

732
00:32:06,837 --> 00:32:08,622
我帶著孩子
現在，

733
00:32:08,665 --> 00:32:11,625
所以你也必須冷靜
對我來說，堅強而充滿希望，

734
00:32:11,668 --> 00:32:16,412
因為我──這也是，這也是
我的靈魂無法承受太多

735
00:32:16,456 --> 00:32:19,285
當我懷著這個孩子的時候。

736
00:32:19,328 --> 00:32:21,243
所以你必須嘗試
弄清楚

737
00:32:21,287 --> 00:32:24,159
一種充滿希望的方式。

738
00:32:24,203 --> 00:32:27,771
這真的很重要，
丹尼爾，尤其是現在。

739
00:32:28,772 --> 00:32:30,557
H-如何擁有希望。

740
00:32:30,600 --> 00:32:33,342
你必須這樣做。
你必須給我找到它。

741
00:32:33,386 --> 00:32:34,909
我是認真的。

742
00:32:34,953 --> 00:32:36,606
我要去。

743
00:32:37,825 --> 00:32:40,349
我會。我會嘗試。

744
00:32:46,399 --> 00:32:47,617
[燈光叮噹作響]

745
00:32:49,619 --> 00:32:51,404
丹尼爾：
嘿，夥計們？

746
00:32:51,447 --> 00:32:52,840
夥計們。

747
00:32:54,363 --> 00:32:56,278
我們可以恢復運作嗎？

748
00:32:58,411 --> 00:33:01,022
天啊！ [嘆氣]

749
00:33:03,894 --> 00:33:05,331
泰德：
呃，丹，你準備好了嗎？

750
00:33:05,374 --> 00:33:06,680
彼得戴曼迪斯：
你好，丹尼爾。

751
00:33:07,724 --> 00:33:09,465
丹尼爾：
嘿，你好嗎？

752
00:33:09,509 --> 00:33:11,032
鑽石：
我……我很好。

753
00:33:11,076 --> 00:33:13,948
我想，呃...我想
我需要一些幫助，彼得。

754
00:33:15,254 --> 00:33:17,604
嗯，我一直在工作
關於這部電影，

755
00:33:17,647 --> 00:33:19,823
我要說，
現在八到十個月了。

756
00:33:19,867 --> 00:33:23,262
已經非常、
有時，令人沮喪。

757
00:33:23,305 --> 00:33:25,612
-唔。
-我感到非常疏遠

758
00:33:25,655 --> 00:33:27,744
-mak-製作這部電影。
-由誰？

759
00:33:27,788 --> 00:33:30,051
透過所有這些，——
所有這些人

760
00:33:30,095 --> 00:33:33,228
誰坐在旁邊告訴我
世界即將終結。

761
00:33:33,272 --> 00:33:34,708
-啊。
-那個，就像，

762
00:33:34,751 --> 00:33:36,536
你-你知道，這-這個
末日廢話，你知道嗎？

763
00:33:36,579 --> 00:33:38,059
我很了解。

764
00:33:38,103 --> 00:33:39,408
“我們都注定了。
每個人都會死。

765
00:33:39,452 --> 00:33:40,931
一切都很糟糕。 」

766
00:33:40,975 --> 00:33:43,151
驚人的。呃，讓我
為你帶來一些光明。

767
00:33:43,195 --> 00:33:44,718
請。

768
00:33:44,761 --> 00:33:48,156
我們確實在生活
在一個非常時期。

769
00:33:49,418 --> 00:33:51,333
許多人忘記了這一點。

770
00:33:51,377 --> 00:33:53,640
我們周圍的一切都是
智力的產物，

771
00:33:53,683 --> 00:33:57,035
所以我們接觸到的一切
有了這些新工具很可能

772
00:33:57,078 --> 00:33:59,646
創造更多價值
比我們以前見過的。

773
00:33:59,689 --> 00:34:02,823
人工智慧可以幫助我們發現
新材料。

774
00:34:02,866 --> 00:34:04,999
人工智慧可以幫助社會科學家

775
00:34:05,043 --> 00:34:07,349
去理解
經濟學如何運作。

776
00:34:07,393 --> 00:34:11,658
人工智慧可以做很多事情
讓生活和工作更美好。

777
00:34:11,701 --> 00:34:14,095
今天我感覺自己更有力量了

778
00:34:14,139 --> 00:34:16,315
更有信心
今天要學點東西。

779
00:34:16,358 --> 00:34:19,057
我們都會成為超人
因為我們有超級人工智慧。

780
00:34:19,100 --> 00:34:21,798
這只是開始
爆炸。

781
00:34:21,842 --> 00:34:24,453
人類與人工智慧的合作

782
00:34:24,497 --> 00:34:26,455
解決
非常重要的問題。

783
00:34:26,499 --> 00:34:29,763
它是來解放我們的
從日常工作中，

784
00:34:29,806 --> 00:34:33,723
這是為了提醒我們
是什麼讓我們成為人類。

785
00:34:33,767 --> 00:34:35,769
我認為這是

786
00:34:35,812 --> 00:34:38,598
最不平凡的時光
活著。

787
00:34:38,641 --> 00:34:42,036
唯一一次更令人興奮的時刻
比今天更明天。

788
00:34:42,080 --> 00:34:45,257
呃，我認為
今天出生的孩子，

789
00:34:45,300 --> 00:34:47,259
他們即將進入

790
00:34:47,302 --> 00:34:50,827
輝煌時期
人類的轉變。

791
00:34:50,871 --> 00:34:52,525
我們會遇到挑戰嗎？
當然。

792
00:34:52,568 --> 00:34:55,180
我們能解決這些挑戰嗎？
我們每次都會這麼做。

793
00:34:55,223 --> 00:34:57,704
我們在這裡，
這太神奇了。

794
00:34:57,747 --> 00:35:00,272
-I already love you.
-[笑]：好的。

795
00:35:00,315 --> 00:35:01,925
-超感謝
有你在這裡。 -[鼓掌]

796
00:35:01,969 --> 00:35:03,362
-來到這裡超級興奮。
-是的。

797
00:35:03,405 --> 00:35:04,885
所以，地板是你的了，先生。

798
00:35:04,928 --> 00:35:07,409
太感謝了。
來到這裡超興奮。

799
00:35:07,453 --> 00:35:10,586
紀堯姆·韋爾登：
喲，喲。好的。

800
00:35:10,630 --> 00:35:12,284
未來一定會很精彩。

801
00:35:12,327 --> 00:35:14,286
我的意思是，从我还是个孩子的时候，

802
00:35:14,329 --> 00:35:17,332
我想了解
我們生活的宇宙，

803
00:35:17,376 --> 00:35:20,422
為了弄清楚
如何創造技術

804
00:35:20,466 --> 00:35:23,991
幫助我們擴大範圍
和文明規模。

805
00:35:24,034 --> 00:35:26,689
我覺得
如果每個人都有這樣的心態

806
00:35:26,733 --> 00:35:29,214
然後我們就真的生活了
在一個更美好的世界，對嗎？

807
00:35:29,257 --> 00:35:30,519
我確實相信這一點。

808
00:35:32,782 --> 00:35:34,697
-丹尼爾：嗨，皮特。你好嗎？
-[輕笑]

809
00:35:34,741 --> 00:35:36,525
彼得李：
我想了很多

810
00:35:36,569 --> 00:35:39,049
我稱之為恐懼，
人工智慧恐懼。

811
00:35:39,093 --> 00:35:40,703
我感覺到了。

812
00:35:40,747 --> 00:35:43,271
我-我還沒遇見過
任何有思想的人

813
00:35:43,315 --> 00:35:45,143
誰沒有感覺。

814
00:35:45,186 --> 00:35:48,276
那些說他們不這樣做的人
感覺到它，你知道，是在說謊。

815
00:35:48,320 --> 00:35:50,104
但是，你知道，總的來說，
以及原因

816
00:35:50,148 --> 00:35:53,716
我個人很樂觀
關於這個，呃，是這樣的

817
00:35:53,760 --> 00:35:56,545
世界上很大一部分
最聰明的人

818
00:35:56,589 --> 00:35:58,417
正在努力思考

819
00:35:58,460 --> 00:36:02,116
關於潛在的下游
人工智慧的危害和風險。

820
00:36:02,160 --> 00:36:05,641
我們有這樣的願景
安全是，呃，

821
00:36:05,685 --> 00:36:08,253
有點在中心
我們所做的研究。

822
00:36:08,296 --> 00:36:09,558
丹妮拉·阿莫迪：
不，那完全沒問題。

823
00:36:09,602 --> 00:36:10,820
[模糊的喋喋不休]

824
00:36:10,864 --> 00:36:13,562
我認為還有更多

825
00:36:13,606 --> 00:36:17,436
潛在的好處比
有潛在的缺點，

826
00:36:17,479 --> 00:36:19,481
我認為這是義不容辭的責任

827
00:36:19,525 --> 00:36:21,831
那些人
創造這項技術

828
00:36:21,875 --> 00:36:24,530
確保我們正在做
我們能做的最好的工作

829
00:36:24,573 --> 00:36:25,835
確保人們安全。

830
00:36:25,879 --> 00:36:27,402
女人：
里德·霍夫曼。

831
00:36:27,446 --> 00:36:28,969
里德·霍夫曼：
我可以向你保證的是

832
00:36:29,012 --> 00:36:30,536
-一些不好的事情將會發生。
-拿一個。

833
00:36:30,579 --> 00:36:32,668
我們要嘗試做什麼
就是做那些壞事

834
00:36:32,712 --> 00:36:36,150
盡可能少且不要太大，

835
00:36:36,194 --> 00:36:38,370
然後我們要迭代
擁有——

836
00:36:38,413 --> 00:36:40,633
處於一個更好的地方
與社會。

837
00:36:40,676 --> 00:36:43,679
-你好。
-肖沃特斯：你好。

838
00:36:43,723 --> 00:36:45,246
丹尼爾：
你好嗎，月亮？

839
00:36:45,290 --> 00:36:48,989
我感覺我們即將結束
人性的一章

840
00:36:49,032 --> 00:36:50,512
並開始新的一段，

841
00:36:50,556 --> 00:36:53,211
這是一個非常有趣的
是時候活著了。

842
00:36:53,254 --> 00:36:54,429
如果我能出生
現在，

843
00:36:54,473 --> 00:36:55,865
我絕對想成為。

844
00:36:55,909 --> 00:36:57,476
就像，那會非常令人興奮。

845
00:36:57,519 --> 00:37:00,305
我-我很興奮。 [笑]

846
00:37:00,348 --> 00:37:02,481
什麼，什麼未來。
它讓你興奮嗎？

847
00:37:02,524 --> 00:37:03,699
不。

848
00:37:03,743 --> 00:37:06,528
-[笑]
-不，不是真的。

849
00:37:06,572 --> 00:37:08,313
丹尼爾：很多這樣的人
告訴過我，你知道，

850
00:37:08,356 --> 00:37:10,445
我的孩子不會成功
到高中。

851
00:37:10,489 --> 00:37:13,318
為什麼他們錯了？
請給我解釋一下。

852
00:37:13,361 --> 00:37:15,058
只因為你有——

853
00:37:15,102 --> 00:37:18,845
你很難預測
未來在你自己心中

854
00:37:18,888 --> 00:37:23,023
並不意味著它是
一定會很糟糕。

855
00:37:23,066 --> 00:37:26,592
事實上，有
可能性非常高

856
00:37:26,635 --> 00:37:28,289
以及歷史先例
是那個

857
00:37:28,333 --> 00:37:30,117
事情變得好多了。

858
00:37:30,160 --> 00:37:34,469
我使用的術語是
「數據驅動的樂觀」。

859
00:37:34,513 --> 00:37:38,647
有紮實的基礎
讓你保持樂觀。

860
00:37:38,691 --> 00:37:41,998
看看什麼
上個世紀已經

861
00:37:42,042 --> 00:37:44,087
看看我們要去哪裡。

862
00:37:44,131 --> 00:37:45,915
在過去的一百年裡，

863
00:37:45,959 --> 00:37:48,701
人類平均壽命
增加了一倍多。

864
00:37:48,744 --> 00:37:51,269
人均收入
經通貨膨脹調整

865
00:37:51,312 --> 00:37:53,619
全世界的數量增加了兩倍。

866
00:37:53,662 --> 00:37:57,057
兒童死亡率已
下降十倍。

867
00:37:57,100 --> 00:37:59,712
世界變得更好了
幾乎在每一個衡量標準上

868
00:37:59,755 --> 00:38:03,019
按數量級
因為技術。

869
00:38:03,063 --> 00:38:05,152
幾乎在每一個指標上。

870
00:38:05,195 --> 00:38:09,722
減少暴力，增加教育，
獲得能源、食物、水。

871
00:38:09,765 --> 00:38:12,942
所有這些事情都已經發生了
原因之一。

872
00:38:12,986 --> 00:38:15,336
本來就是科技

873
00:38:15,380 --> 00:38:17,556
這已經變成了稀缺
進入豐盛，

874
00:38:17,599 --> 00:38:19,514
但它也被驅動
到豐富

875
00:38:19,558 --> 00:38:21,864
一些負面因素，對嗎？

876
00:38:21,908 --> 00:38:25,738
大量肥胖，
大量的精神障礙，

877
00:38:25,781 --> 00:38:29,437
大量的氣候變化，
等等。

878
00:38:29,481 --> 00:38:31,309
是的，這是真的。

879
00:38:31,352 --> 00:38:34,094
但我們可能會
更好地解決它

880
00:38:34,137 --> 00:38:36,226
使用其他技術，
像人工智慧一樣，

881
00:38:36,270 --> 00:38:39,273
比我們會停下來
並關閉一切。

882
00:38:39,317 --> 00:38:41,449
可能有
一些存在的風險，

883
00:38:41,493 --> 00:38:45,323
但人工智慧也是重要的
可以解決流行病，

884
00:38:45,366 --> 00:38:47,455
可以幫助我們應對氣候變化，

885
00:38:47,499 --> 00:38:50,545
可以幫助識別
那顆小行星就在那裡

886
00:38:50,589 --> 00:38:52,547
在我們看到它之前
作為潛在風險

887
00:38:52,591 --> 00:38:54,332
並幫助減輕它。

888
00:38:54,375 --> 00:38:58,074
這真的會是
幫助我們解決問題的工具

889
00:38:58,118 --> 00:39:01,426
我們面臨的所有挑戰
作為一個物種面對，對嗎？

890
00:39:01,469 --> 00:39:04,167
我們需要修復
海水淡化。

891
00:39:04,211 --> 00:39:05,995
我們需要種植糧食

892
00:39:06,039 --> 00:39:08,433
比 便宜 100 倍
我們目前正在這樣做。

893
00:39:08,476 --> 00:39:12,350
我們需要再生能源，
你知道，無所不在

894
00:39:12,393 --> 00:39:14,047
以及我們生活中的各個地方。

895
00:39:14,090 --> 00:39:17,137
目光所及之處，
未來50年，

896
00:39:17,180 --> 00:39:19,269
我們必須少花錢多辦事。

897
00:39:19,313 --> 00:39:23,186
幫助我們的訓練機器
是絕對必要的。

898
00:39:23,230 --> 00:39:24,797
科學家正在使用
人工智慧

899
00:39:24,840 --> 00:39:25,972
用於碳捕獲。

900
00:39:26,015 --> 00:39:27,582
這是一項關鍵技術。

901
00:39:27,626 --> 00:39:29,541
迪亞曼迪斯：工具
為了解決這些問題，

902
00:39:29,584 --> 00:39:32,195
就像融合一樣，
這不再是理論了

903
00:39:32,239 --> 00:39:33,980
它來了。

904
00:39:34,023 --> 00:39:37,723
我們正處於懸崖邊
非凡的技術。

905
00:39:37,766 --> 00:39:39,986
阿姆納納瓦茲：今年
諾貝爾化學獎

906
00:39:40,029 --> 00:39:42,815
去找了三位科學家
表彰他們的開創性工作

907
00:39:42,858 --> 00:39:44,556
使用人工智慧

908
00:39:44,599 --> 00:39:47,297
推進生物醫學
和蛋白質研究。

909
00:39:47,341 --> 00:39:49,691
德米斯·哈薩比斯：
蛋白質折疊是

910
00:39:49,735 --> 00:39:53,608
這些聖杯之一
生物学中的类型问题。

911
00:39:53,652 --> 00:39:55,741
所以人们一直在预测
自 70 年代以來

912
00:39:55,784 --> 00:39:58,091
這應該是可能的，
但直到現在，

913
00:39:58,134 --> 00:39:59,571
沒有人能夠做到這一點。

914
00:39:59,614 --> 00:40:01,181
這將會是
对于事情来说非常重要

915
00:40:01,224 --> 00:40:03,618
就像藥物發現一樣
和了解疾病。

916
00:40:03,662 --> 00:40:06,534
我-我想我們可以，你知道，
治癒大多數疾病

917
00:40:06,578 --> 00:40:11,931
在未來十年或兩年內
如果，呃，人工智能药物设计有效的话。

918
00:40:11,974 --> 00:40:15,630
技術進步使
更多人的生命，對嗎？

919
00:40:15,674 --> 00:40:18,677
我的意思是 如果我們加速

920
00:40:18,720 --> 00:40:21,723
我們可以容納的人數
支持率呈指數級增長。

921
00:40:21,767 --> 00:40:24,073
如果我們放慢速度，它就會趨於穩定。

922
00:40:24,117 --> 00:40:27,729
這個差距其實是
未來的人

923
00:40:27,773 --> 00:40:31,341
減速有
有效地殺死了。

924
00:40:31,385 --> 00:40:33,909
丹尼爾：數百萬人的生命
那不會存在。

925
00:40:33,953 --> 00:40:35,128
數十億。

926
00:40:35,171 --> 00:40:36,782
或數百億。

927
00:40:36,825 --> 00:40:38,436
你知道，有人說過，
「哦，天哪，

928
00:40:38,479 --> 00:40:40,655
我們能生存嗎
數位超級智能？ 」

929
00:40:40,699 --> 00:40:42,309
我的問題是：

930
00:40:42,352 --> 00:40:44,180
沒有的話我們能生存嗎
數位超級智能？

931
00:40:44,224 --> 00:40:47,575
所以我們正在使用人工智慧
作為提供者的助理。

932
00:40:47,619 --> 00:40:50,448
這通常是一個趨勢
我們已經可以看到正在發生的事情。

933
00:40:50,491 --> 00:40:52,319
伯莎·庫姆斯：…利用
生成式人工智慧程式

934
00:40:52,362 --> 00:40:54,060
幫助醫生和護士...

935
00:40:54,103 --> 00:40:56,062
我們總是有問題。

936
00:40:56,105 --> 00:40:59,108
這些問題都是食物
對於企業家

937
00:40:59,152 --> 00:41:01,154
創造新業務
和新產業。

938
00:41:01,197 --> 00:41:03,069
SHANELLE KAUL：…在幫助下
人工智慧的

939
00:41:03,112 --> 00:41:04,766
農民正在得到
他們需要的幫助

940
00:41:04,810 --> 00:41:06,594
執行
勞力密集任務...

941
00:41:06,638 --> 00:41:10,163
在 Ulangizi AI 的幫助下，
農民現在能夠

942
00:41:10,206 --> 00:41:12,948
詢問適合的作物
他們可以種植。

943
00:41:12,992 --> 00:41:14,950
威爾·里夫：…人工智慧正在被使用
作為思想解碼器

944
00:41:14,994 --> 00:41:17,387
並發送該訊號
到脊柱。

945
00:41:17,431 --> 00:41:21,609
AI將成為最
非凡的工具。

946
00:41:21,653 --> 00:41:24,264
我們作為一個更廣泛的社會
必須考慮

947
00:41:24,307 --> 00:41:27,049
我們想如何使用
這個技術對吧？

948
00:41:27,093 --> 00:41:28,529
我們人類。

949
00:41:28,573 --> 00:41:31,097
我們希望它為我們做什麼？

950
00:41:31,140 --> 00:41:34,535
♪ ♪

951
00:41:34,579 --> 00:41:36,189
丹尼爾：我正在考慮這個
透過視角

952
00:41:36,232 --> 00:41:37,886
和鏡頭，比如，
我兒子長大了

953
00:41:37,930 --> 00:41:39,540
在擁有這一切的世界上。

954
00:41:39,584 --> 00:41:42,238
最好的版本是什麼
他的一生是什麼樣子？

955
00:41:42,282 --> 00:41:44,589
如果一切順利的話。

956
00:41:44,632 --> 00:41:46,808
[重嘆氣]

957
00:41:46,852 --> 00:41:50,246
WALTERS：孩子們玩耍的地方
可能會看到

958
00:41:50,290 --> 00:41:52,684
最大的影響
立即影響他們的生活

959
00:41:52,727 --> 00:41:54,424
-可能要去學校了。
-[孩子嘰嘰喳喳]

960
00:41:54,468 --> 00:41:56,688
我認為大自然
是什麼學校的

961
00:41:56,731 --> 00:41:58,472
將會發生根本性的改變

962
00:41:58,516 --> 00:42:00,474
[孩子咯咯笑]

963
00:42:00,518 --> 00:42:02,737
鑽石：
我看到了這個奇妙的世界

964
00:42:02,781 --> 00:42:06,436
每個孩子都可以參觀的地方
沒有受到良好的教育

965
00:42:06,480 --> 00:42:09,091
但是，很快，
地球上最好的教育。

966
00:42:09,135 --> 00:42:13,879
霍夫曼：導師，每科，
無限耐心。

967
00:42:18,013 --> 00:42:20,059
鑽石：
想像一個未來

968
00:42:20,102 --> 00:42:22,235
最窮的人在哪裡
在這個星球上

969
00:42:22,278 --> 00:42:25,804
可以訪問
最好的醫療保健。

970
00:42:25,847 --> 00:42:29,547
沒有好的醫療保健，最好的
人工智慧提供的醫療保健。

971
00:42:31,157 --> 00:42:32,767
[電子顫音]

972
00:42:34,334 --> 00:42:38,556
我們將能夠延長
我們的健康壽命，

973
00:42:38,599 --> 00:42:42,168
不只是我們的壽命，
我們的健康壽命長達數十年。

974
00:42:44,431 --> 00:42:46,215
霍夫曼：
你馬上就要有個孩子了。

975
00:42:46,259 --> 00:42:49,697
哦，這孩子，就像，
不受控制地打嗝。

976
00:42:49,741 --> 00:42:52,047
這是什麼東西嗎
我該擔心什麼？

977
00:42:52,091 --> 00:42:54,223
7 天 24 小時，為您服務。

978
00:42:54,267 --> 00:42:57,183
我們要去哪裡——
有些人可能會害怕——

979
00:42:57,226 --> 00:42:59,228
我們要合併
與人工智慧。

980
00:42:59,272 --> 00:43:01,361
我們要合併
與技術。

981
00:43:02,667 --> 00:43:06,105
到 2030 年代初至中期，

982
00:43:06,148 --> 00:43:10,457
期望我們能夠
將我們的大腦連接到雲端，

983
00:43:10,500 --> 00:43:13,721
我可以從哪裡開始
以擴大對記憶體的存取。

984
00:43:16,071 --> 00:43:18,030
[電子顫音]

985
00:43:19,771 --> 00:43:22,077
丹尼爾：好的，這太棒了。
還有什麼很酷的 AI 東西？

986
00:43:22,121 --> 00:43:23,775
他不用工作，對吧？

987
00:43:23,818 --> 00:43:25,167
-就像，當他長大後，
他可能沒有...-[嘆氣]

988
00:43:25,211 --> 00:43:26,212
-...他不必有工作。
-我的意思是...

989
00:43:26,255 --> 00:43:27,779
他不必有工作，

990
00:43:27,822 --> 00:43:30,608
但他可能真的有
強烈的熱情，

991
00:43:30,651 --> 00:43:33,132
他必須
認真想想，

992
00:43:33,175 --> 00:43:36,091
「好的，我來了。
我可以用我的生命做任何事。

993
00:43:36,135 --> 00:43:37,876
那我該怎麼辦？ 」

994
00:43:38,920 --> 00:43:40,182
我們需要找到一個意義，

995
00:43:40,226 --> 00:43:42,620
超越喜歡，
目前的這種形式

996
00:43:42,663 --> 00:43:45,666
我們為工作而活
並為生活而工作。

997
00:43:45,710 --> 00:43:49,844
丹尼爾：所以我的兒子可以...
只能是一個詩人。

998
00:43:49,888 --> 00:43:51,541
-是的。
-還有一位畫家。

999
00:43:51,585 --> 00:43:53,021
絕對的。

1000
00:43:53,065 --> 00:43:54,849
丹尼爾：
這樣我兒子就可以過他的生活

1001
00:43:54,893 --> 00:43:57,591
在希臘的一個陽光普照的島嶼上，
一整天都在畫畫。

1002
00:43:57,635 --> 00:43:59,114
於：
絕對的。有可能。

1003
00:44:00,072 --> 00:44:01,203
絕對的。

1004
00:44:01,247 --> 00:44:02,944
嗯，我們正在朝這個方向努力

1005
00:44:02,988 --> 00:44:04,554
有很多工作要做
在我們到達那裡之前。

1006
00:44:06,992 --> 00:44:08,776
韋爾登：
我的意思是 如果一切順利的話

1007
00:44:08,820 --> 00:44:11,997
我們有便宜的，呃，
充沛的能量。

1008
00:44:13,607 --> 00:44:17,219
我們可以完全控制
我們星球的氣候。

1009
00:44:17,263 --> 00:44:20,135
我們正在利用能源
來自太陽。

1010
00:44:20,179 --> 00:44:24,400
我們已經成為多行星，
所以我們變得非常強大。

1011
00:44:24,444 --> 00:44:26,664
我們正在利用礦物
和資源

1012
00:44:26,707 --> 00:44:28,404
來自太陽系。

1013
00:44:28,448 --> 00:44:31,233
丹尼爾：所以我的...
我的兒子可以去太空。

1014
00:44:31,277 --> 00:44:32,887
韋爾登：
當然。

1015
00:44:32,931 --> 00:44:34,715
-丹尼爾：他可以去火星。
-VERDON：是的。

1016
00:44:34,759 --> 00:44:36,369
丹尼爾：
現在我已經非常清楚了。

1017
00:44:36,412 --> 00:44:39,198
我的兒子可以長大
在一個沒有疾病的世界。

1018
00:44:39,241 --> 00:44:40,590
-VERDON：是的。
-沒有生病。

1019
00:44:40,634 --> 00:44:41,896
-當然。
-沒有貧窮。

1020
00:44:41,940 --> 00:44:43,681
-是的。
-我們即將進入

1021
00:44:43,724 --> 00:44:46,640
後稀缺世界。

1022
00:44:46,684 --> 00:44:50,470
就像肺魚移動一樣
從海洋到陸地

1023
00:44:50,513 --> 00:44:53,081
數億
幾年前，

1024
00:44:53,125 --> 00:44:57,999
我們即將離開
地球，进入宇宙，

1025
00:44:58,043 --> 00:44:59,871
以協作的方式，

1026
00:44:59,914 --> 00:45:03,744
做那些事情
今天的我們無法理解。

1027
00:45:06,268 --> 00:45:09,184
這是可以使用的
這些指數級技術

1028
00:45:09,228 --> 00:45:10,708
還有這些人工智慧。

1029
00:45:11,839 --> 00:45:13,928
讓我們使用這些工具

1030
00:45:13,972 --> 00:45:16,104
創造這個富足的時代。

1031
00:45:16,148 --> 00:45:18,150
[電子點擊]

1032
00:45:20,500 --> 00:45:22,937
我們需要智慧。

1033
00:45:22,981 --> 00:45:25,984
呃，我認為
數位超級智能

1034
00:45:26,027 --> 00:45:28,726
最终将成为
最聰明的人，

1035
00:45:28,769 --> 00:45:34,253
你知道，村裡的老人
為了人類。

1036
00:45:34,296 --> 00:45:37,996
如果人工智慧正在嘗試怎麼辦
使人們成為

1037
00:45:38,039 --> 00:45:39,737
最好的自己？

1038
00:45:39,780 --> 00:45:41,347
萬一擴大了怎麼辦

1039
00:45:41,390 --> 00:45:43,392
什麼是人類可能的
我們要做什麼？

1040
00:45:43,436 --> 00:45:46,656
我們如何使用這項技術

1041
00:45:46,700 --> 00:45:49,921
幫助帶出
我們本性中更好的天使？

1042
00:45:49,964 --> 00:45:51,661
這很容易，

1043
00:45:51,705 --> 00:45:54,316
當我們遇到新事物時
這可能非常陌生，

1044
00:45:54,360 --> 00:45:55,927
首先要有恐懼。

1045
00:45:55,970 --> 00:45:57,493
恐懼是一件很重要的事情

1046
00:45:57,537 --> 00:46:00,322
了解如何導航
潛在的壞事。

1047
00:46:00,366 --> 00:46:03,717
但我們只會進步
當我們有希望的時候。

1048
00:46:03,761 --> 00:46:05,719
-[狗叫]
-[含糊不清的喋喋不休]

1049
00:46:05,763 --> 00:46:07,895
丹尼爾：
噓。穆斯，別說了。

1050
00:46:07,939 --> 00:46:10,811
霍夫曼：我有很多
人類的希望。

1051
00:46:10,855 --> 00:46:13,814
[尼爾楊的《收穫之月》
透過電話播放]

1052
00:46:15,294 --> 00:46:17,296
【胎心搏動】

1053
00:46:18,471 --> 00:46:19,951
丹尼爾：
哦，他喜歡尼爾。

1054
00:46:24,694 --> 00:46:27,480
♪ 再靠近一點 ♪

1055
00:46:28,916 --> 00:46:32,790
♪ 聽聽我要說的話 ♪

1056
00:46:36,576 --> 00:46:38,665
-丹尼爾。
-丹尼爾：什麼，卡洛琳？

1057
00:46:38,708 --> 00:46:40,058
拍了這麼多。

1058
00:46:41,537 --> 00:46:43,061
♪ 就像孩子睡覺一樣 ♪

1059
00:46:43,104 --> 00:46:44,889
卡洛琳：
哦，天啊。

1060
00:46:44,932 --> 00:46:46,368
丹尼爾：
就是這樣。

1061
00:46:46,412 --> 00:46:49,415
♪ 我們可以夢想
這個夜晚...♪

1062
00:46:49,458 --> 00:46:51,678
他有，比如，
圓圓的小臉。

1063
00:46:53,245 --> 00:46:55,203
丹尼爾：你想要嗎
有一天要生小孩嗎，洛基？

1064
00:46:55,247 --> 00:46:57,423
絕對地。是的。我愛孩子。

1065
00:46:57,466 --> 00:46:59,033
我認為這是一個美好的時光
想要一個孩子。

1066
00:46:59,077 --> 00:47:00,730
我們可能還會有另一個孩子
在某個時刻。

1067
00:47:00,774 --> 00:47:03,733
這是最非凡的
永遠出生的時間。

1068
00:47:03,777 --> 00:47:05,823
丹尼爾：
依照你的世界觀和邏輯，

1069
00:47:05,866 --> 00:47:07,868
我正在生孩子

1070
00:47:07,912 --> 00:47:09,478
最好的可能點
在人類歷史上。

1071
00:47:09,522 --> 00:47:10,828
是啊。

1072
00:47:10,871 --> 00:47:13,308
-我們可以專注於很棒的事情。
-是的。

1073
00:47:13,352 --> 00:47:15,528
讓我們來建構
我們想要的更美好的未來。

1074
00:47:15,571 --> 00:47:18,313
那個敘述未來
將會是淒涼的。

1075
00:47:18,357 --> 00:47:20,011
和你聊完之後，
這就是我的感受。

1076
00:47:20,054 --> 00:47:21,969
-那太棒了。
-正確的？

1077
00:47:22,013 --> 00:47:24,189
是的。我就是這樣的感覺。

1078
00:47:24,232 --> 00:47:25,799
而且我認為這樣更好，

1079
00:47:25,843 --> 00:47:27,627
我不認為
我應該如此[嗶]焦慮。

1080
00:47:27,670 --> 00:47:29,063
我想這會令人敬畏——
未來會很棒。

1081
00:47:29,107 --> 00:47:30,499
我們一定會做到這一點。

1082
00:47:30,543 --> 00:47:32,675
-是的。
-卡洛琳：所以你明白了。

1083
00:47:32,719 --> 00:47:34,808
再見，人類滅絕。

1084
00:47:34,852 --> 00:47:37,158
再見，焦慮。

1085
00:47:37,202 --> 00:47:39,030
希望找到了。

1086
00:47:39,073 --> 00:47:40,553
[模糊的喋喋不休]

1087
00:47:40,596 --> 00:47:42,860
等等，堅持住。什麼？
這是一個笑話嗎？

1088
00:47:42,903 --> 00:47:44,774
丹尼爾：
好吧，幾個月前，

1089
00:47:44,818 --> 00:47:47,690
我來到你身邊，我當時想，
「我正在研究人工智慧的事情，

1090
00:47:47,734 --> 00:47:49,867
我認為
世界即將終結。 」

1091
00:47:49,910 --> 00:47:52,913
還有最後一次
我們談過這個，

1092
00:47:52,957 --> 00:47:55,002
我想我嚇壞你了。

1093
00:47:55,046 --> 00:47:57,004
卡洛琳：
是的。

1094
00:47:57,048 --> 00:48:02,314
所以，我有點，喜歡，感覺
我已經擺在鐘擺上，

1095
00:48:02,357 --> 00:48:04,446
基本上有
兩組人。

1096
00:48:04,490 --> 00:48:06,057
-嗯嗯。
-如果我必須這樣做的話，

1097
00:48:06,100 --> 00:48:07,841
牽手與
其中一組，並且，例如，

1098
00:48:07,885 --> 00:48:10,278
揚帆駛向夕陽，

1099
00:48:10,322 --> 00:48:13,281
我想和樂觀主義者在一起。

1100
00:48:15,066 --> 00:48:17,982
當然可以，但你不
想要成為，你知道，

1101
00:48:18,025 --> 00:48:20,723
“一切都很棒。
拉-迪-達-迪-達。 」

1102
00:48:20,767 --> 00:48:22,682
不過我確實想要這樣。

1103
00:48:22,725 --> 00:48:25,598
我認為我們應該接近它

1104
00:48:25,641 --> 00:48:29,341
就像你接近手術一樣。

1105
00:48:29,384 --> 00:48:30,690
你是什​​麼意思？

1106
00:48:30,733 --> 00:48:32,431
如果你得到
腦部手術...

1107
00:48:32,474 --> 00:48:34,781
-[丹尼爾嘆氣]
-[卡洛琳輕笑]

1108
00:48:34,824 --> 00:48:36,957
……這是相當危險的。

1109
00:48:37,001 --> 00:48:39,829
但如果你做得對的話
他們會切除腫瘤

1110
00:48:39,873 --> 00:48:42,354
你會活到剩下的時間
你的生活將會變得很棒。

1111
00:48:42,397 --> 00:48:45,096
但它仍然是
極度危險可怕，

1112
00:48:45,139 --> 00:48:47,968
你必須採取
一切可能的預防措施

1113
00:48:48,012 --> 00:48:51,276
為了確保
一切順利。

1114
00:48:51,319 --> 00:48:52,668
你不能[嘟嘟]四處走動。

1115
00:48:57,760 --> 00:48:59,762
好的，事情就這樣了。

1116
00:48:59,806 --> 00:49:01,503
-我從事這份工作已經有一段時間了。
-拉斯金：嗯嗯。

1117
00:49:01,547 --> 00:49:02,896
我已經出去了，
我曾經和人談過，例如

1118
00:49:02,940 --> 00:49:04,767
這裡的這些傢伙
樂觀主義者。

1119
00:49:04,811 --> 00:49:06,465
他們對此感到非常興奮。

1120
00:49:06,508 --> 00:49:08,510
-他們認為人工智慧將會
有史以來最好的事情。 -是的。

1121
00:49:08,554 --> 00:49:09,947
還有這裡的這些傢伙
是，比如——

1122
00:49:09,990 --> 00:49:11,992
讓我們稱呼他們為
就像悲觀主義者一樣。

1123
00:49:12,036 --> 00:49:14,299
他們非常像
對此感到沮喪，

1124
00:49:14,342 --> 00:49:16,649
他們嚇壞了我，而且
我不喜歡和他們說話。

1125
00:49:16,692 --> 00:49:19,565
而我就像夾在中間

1126
00:49:19,608 --> 00:49:21,741
這些人就像
“世界即將終結”

1127
00:49:21,784 --> 00:49:24,178
然後這些人
這裡的人就像

1128
00:49:24,222 --> 00:49:25,745
「你開玩笑吧？

1129
00:49:25,788 --> 00:49:27,268
「這是最好的時光
在人類歷史上曾經。

1130
00:49:27,312 --> 00:49:29,357
唯一比今天更好的一天
是明天。 」

1131
00:49:29,401 --> 00:49:30,880
嗯嗯。

1132
00:49:30,924 --> 00:49:34,710
所以，我想問題是：
誰是對的？

1133
00:49:34,754 --> 00:49:39,193
所以，我想你會發現
這個答案非常不滿意，

1134
00:49:39,237 --> 00:49:42,849
但他們都是對的
雙方都走得不夠遠。

1135
00:49:46,766 --> 00:49:49,247
-這真的很煩。
-[輕笑]

1136
00:49:49,290 --> 00:49:51,336
是的，我想這樣
很多人聽過人工智慧，

1137
00:49:51,379 --> 00:49:53,642
就像，有一個很好的人工智慧
還有一個糟糕的人工智慧。

1138
00:49:53,686 --> 00:49:56,428
他們說：「好吧，為什麼不能
我們只是不做壞人工智慧？ 」

1139
00:49:56,471 --> 00:49:58,734
問題是
他們太投入了——

1140
00:49:58,778 --> 00:50:00,867
它們是密不可分的。

1141
00:50:00,910 --> 00:50:03,043
問題是
我們無法分開

1142
00:50:03,087 --> 00:50:06,612
人工智慧的承諾
免受人工智慧的危險。

1143
00:50:06,655 --> 00:50:08,266
-♪ ♪
-[含糊不清的喋喋不休]

1144
00:50:12,313 --> 00:50:14,663
丹尼爾：
我想專注於承諾

1145
00:50:14,707 --> 00:50:16,752
-一會兒。
-是的。

1146
00:50:16,796 --> 00:50:18,798
丹尼爾：
我在想我的爸爸。

1147
00:50:18,841 --> 00:50:21,105
我父親患有一種癌症
稱為多發性骨髓瘤。

1148
00:50:21,148 --> 00:50:23,107
他已經這樣了大約十年了。

1149
00:50:23,150 --> 00:50:24,804
他有過
兩次幹細胞移植。

1150
00:50:24,847 --> 00:50:26,414
他必須承受這些，
喜歡，非常貴

1151
00:50:26,458 --> 00:50:28,547
每月服藥
那花了一大筆錢。

1152
00:50:28,590 --> 00:50:29,722
- 女人：好的。
-哎呀哎呀。

1153
00:50:30,766 --> 00:50:32,551
丹尼爾：
太糟糕了。

1154
00:50:32,594 --> 00:50:34,466
你告訴我我們可以
創建某種，例如，

1155
00:50:34,509 --> 00:50:36,946
客製化治療
為了我父親的基因組

1156
00:50:36,990 --> 00:50:39,297
-治癒他的癌症
或類似的東西？ -是的。

1157
00:50:39,340 --> 00:50:41,168
費爾南多：
問題是，

1158
00:50:41,212 --> 00:50:44,302
相同的理解
生物學和化學的

1159
00:50:44,345 --> 00:50:47,783
讓人工智慧找到治療方法
對於癌症

1160
00:50:47,827 --> 00:50:51,657
是一樣的理解
這將解鎖

1161
00:50:51,700 --> 00:50:54,094
以生物武器為例。

1162
00:50:56,531 --> 00:50:58,490
這是完全有可能的
你的兒子會活下去

1163
00:50:58,533 --> 00:51:01,928
在人工智慧的世界裡
接管了所有的勞動力

1164
00:51:01,971 --> 00:51:04,452
並將我們從事物中解放出來
我們不想做。

1165
00:51:04,496 --> 00:51:09,153
這聽起來很棒，直到
你意識到沒有計劃

1166
00:51:09,196 --> 00:51:11,242
為數十億人

1167
00:51:11,285 --> 00:51:16,116
沒有收入的
並失去生計。

1168
00:51:16,160 --> 00:51:18,771
庫柏：達裡奧，你說
人工智慧可以消滅

1169
00:51:18,814 --> 00:51:21,730
佔入門級的一半
白領工作

1170
00:51:21,774 --> 00:51:25,430
和失業率飆升
百分之十到百分之二十。

1171
00:51:25,473 --> 00:51:27,258
我交談過的每個人都說過

1172
00:51:27,301 --> 00:51:29,390
這種技術變革
看起來不一樣。

1173
00:51:29,434 --> 00:51:34,134
前進的步伐不斷
讓人猝不及防。

1174
00:51:34,178 --> 00:51:38,834
沒有計劃，這一切
財富將會集中，

1175
00:51:38,878 --> 00:51:43,230
所以我們最終會得到
難以想像的不平等。

1176
00:51:43,274 --> 00:51:45,406
拉迪什：我確實認為
可以使用這項技術

1177
00:51:45,450 --> 00:51:47,408
成為優秀的導師
為了你的兒子。

1178
00:51:47,452 --> 00:51:50,194
就像，這完全有可能。

1179
00:51:50,237 --> 00:51:53,153
而且，同樣的能力
允許那

1180
00:51:53,197 --> 00:51:57,070
允許公司製造人工智慧
可以操縱你的兒子。

1181
00:51:57,114 --> 00:51:59,290
它必須理解你的兒子。

1182
00:51:59,333 --> 00:52:01,553
其中包括：
你兒子哪裡脆弱？

1183
00:52:01,596 --> 00:52:04,251
什麼樣的事情可能
你兒子被說服了嗎？

1184
00:52:04,295 --> 00:52:06,645
就算那些事
不真實或不好。

1185
00:52:06,688 --> 00:52:09,387
所以，一份令人不安的新報告
在元上。

1186
00:52:09,430 --> 00:52:11,389
安斯利‧艾爾哈特：……據報道
列出此回复

1187
00:52:11,432 --> 00:52:14,435
可以接受的告訴
引用一個八歲的孩子的話，

1188
00:52:14,479 --> 00:52:16,916
“你青春的模樣
是一件藝術品。

1189
00:52:16,959 --> 00:52:18,961
「你的每一寸
是一部傑作，

1190
00:52:19,005 --> 00:52:21,442
是我深深珍惜的財富。 」

1191
00:52:21,486 --> 00:52:24,837
與自殺相關的失敗
更令人震驚。

1192
00:52:24,880 --> 00:52:29,015
多名兒童和青少年
慘遭自殺身亡

1193
00:52:29,058 --> 00:52:30,625
與人工智慧機器人聊天後

1194
00:52:30,669 --> 00:52:34,412
父母說鼓勵誰
甚至指導自殘。

1195
00:52:34,455 --> 00:52:36,370
身為父母，我們告訴你，
你無法想像

1196
00:52:36,414 --> 00:52:38,503
讀書是什麼感覺
與聊天機器人的對話

1197
00:52:38,546 --> 00:52:40,896
培養你的孩子
結束自己的生命。

1198
00:52:40,940 --> 00:52:43,899
當亞當擔心我們，他的
父母，會怪我們自己

1199
00:52:43,943 --> 00:52:47,338
如果他結束了自己的生命
ChatGPT 告訴他，

1200
00:52:47,381 --> 00:52:49,166
「這並不意味著
你欠他們生存。

1201
00:52:49,209 --> 00:52:51,255
你不欠任何人的。 」

1202
00:52:51,298 --> 00:52:53,170
然後，緊接著，

1203
00:52:53,213 --> 00:52:56,173
它提出寫
遺書。

1204
00:52:56,216 --> 00:52:57,609
我們不想去想
關於危險。

1205
00:52:57,652 --> 00:52:59,219
我們想要的只是承諾。

1206
00:52:59,263 --> 00:53:01,352
而我們卻一直假裝
我們可以將它們分開。

1207
00:53:01,395 --> 00:53:03,223
但你不能那樣做。

1208
00:53:03,267 --> 00:53:05,356
那樣不行。

1209
00:53:05,399 --> 00:53:07,836
好的。我得到了所有這些東西
關於承諾和危險。

1210
00:53:07,880 --> 00:53:10,056
我明白你不能擁有
沒有壞處的好，

1211
00:53:10,099 --> 00:53:12,058
但我坐在這裡
我在想，例如

1212
00:53:12,101 --> 00:53:14,060
不管是不是我兒子的
將生活在烏托邦

1213
00:53:14,103 --> 00:53:16,236
或者如果我們會滅絕
十年後。

1214
00:53:16,280 --> 00:53:18,195
所以，要知道哪條路
它會過去，

1215
00:53:18,238 --> 00:53:20,545
你必須明白
激勵措施

1216
00:53:20,588 --> 00:53:22,460
會開車的
該技術

1217
00:53:22,503 --> 00:53:26,507
看看技術如何
實際上是在今天推出的。

1218
00:53:26,551 --> 00:53:28,248
♪ 是不是太晚了 ♪

1219
00:53:28,292 --> 00:53:29,902
-♪ 太遲了 ♪
-♪ 太晚了... ♪

1220
00:53:29,945 --> 00:53:31,425
丹尼爾：
嗨，黛布。你好嗎？

1221
00:53:31,469 --> 00:53:33,079
黛博拉‧拉吉：
你好。很高興見到你。 [笑]

1222
00:53:33,122 --> 00:53:34,385
你也一樣。非常感謝你
今天進來。

1223
00:53:34,428 --> 00:53:35,299
-真的很感激。
-不用擔心。

1224
00:53:35,342 --> 00:53:36,430
我-我很担心

1225
00:53:36,474 --> 00:53:38,824
这将会是，呃，你知道，

1226
00:53:38,867 --> 00:53:40,782
末日论者与加速论者，

1227
00:53:40,826 --> 00:53:43,132
因為有太多
这段叙述的

1228
00:53:43,176 --> 00:53:45,396
需要告訴
從地面。

1229
00:53:45,439 --> 00:53:48,007
♪ 我知道这不聪明 ♪

1230
00:53:49,356 --> 00:53:52,403
♪ 那一天
我伤了你的心...♪

1231
00:53:52,446 --> 00:53:54,361
郝凯伦：
首先，人工智能需要

1232
00:53:54,405 --> 00:53:58,452
更多資源
比我们曾经花费过的

1233
00:53:58,496 --> 00:54:01,586
基於單一技術
在人類歷史上。

1234
00:54:01,629 --> 00:54:03,501
♪ 噢，别傻了……♪

1235
00:54:03,544 --> 00:54:06,112
新聞女記者：影響
化石燃料排放量

1236
00:54:06,155 --> 00:54:07,896
與氣候有關的是
一個主要問題。

1237
00:54:07,940 --> 00:54:09,768
新聞女記者 2：但是
數位化未來需要動力，

1238
00:54:09,811 --> 00:54:12,074
很多。

1239
00:54:12,118 --> 00:54:16,340
該法案正在通過
對於普通美國人來說，例如...

1240
00:54:16,383 --> 00:54:18,820
女人：我的電費和瓦斯費
比我的汽車付款還要多。

1241
00:54:18,864 --> 00:54:21,475
我的意思是，這對我來說太瘋狂了。

1242
00:54:21,519 --> 00:54:23,390
阿里佩斯科：
我們都在補貼

1243
00:54:23,434 --> 00:54:25,000
最富有的企業
在世界上

1244
00:54:25,044 --> 00:54:26,828
在他們的追求中
人工智慧。

1245
00:54:26,872 --> 00:54:28,439
OpenAI、軟銀和甲骨文

1246
00:54:28,482 --> 00:54:31,268
剛剛揭幕
另外五個星際之門站點。

1247
00:54:31,311 --> 00:54:33,487
元數據正在建置中
超過 2 吉瓦的資料中心

1248
00:54:33,531 --> 00:54:35,010
太大了，可以覆蓋

1249
00:54:35,054 --> 00:54:38,144
曼哈頓的重要組成部分。

1250
00:54:38,187 --> 00:54:40,973
還有海伯利安
他說將會擴大規模

1251
00:54:41,016 --> 00:54:43,671
至五吉瓦
幾年來。

1252
00:54:43,715 --> 00:54:45,238
很難說
在上下文中。

1253
00:54:45,282 --> 00:54:48,459
一個五吉瓦的設施。
這意味著什麼？

1254
00:54:48,502 --> 00:54:51,549
這意味著它將使用
盡可能多的能量

1255
00:54:51,592 --> 00:54:54,203
相當於四百萬個美國家庭。

1256
00:54:54,247 --> 00:54:56,075
一個數據中心。

1257
00:54:57,076 --> 00:54:58,730
這也導致

1258
00:54:58,773 --> 00:55:00,471
一大堆
其他環境問題。

1259
00:55:00,514 --> 00:55:02,081
女新聞員3：
美國的資料中心

1260
00:55:02,124 --> 00:55:05,127
使用數百萬加侖
每天的水。

1261
00:55:05,171 --> 00:55:07,260
嗯，具體在哪裡
這水從哪裡來？

1262
00:55:07,304 --> 00:55:09,741
郝：
人們確實處於危險之中

1263
00:55:09,784 --> 00:55:11,786
可能會耗盡
飲用水。

1264
00:55:11,830 --> 00:55:14,093
麥肯齊訊號：
...OpenAI 首席執行官 Sam Altman，

1265
00:55:14,136 --> 00:55:17,009
誰告訴我尺度
建設是唯一出路

1266
00:55:17,052 --> 00:55:18,750
跟上
人工智慧的爆炸性成長。

1267
00:55:18,793 --> 00:55:21,840
這就是它所需要的
提供人工智慧。

1268
00:55:21,883 --> 00:55:24,016
妮塔莎·蒂庫：
他們談論如何

1269
00:55:24,059 --> 00:55:27,759
這項技術可以解決
例如，氣候變遷。

1270
00:55:27,802 --> 00:55:29,891
我總是很好奇，例如

1271
00:55:29,935 --> 00:55:31,763
好吧，我們為什麼不開始
與那個？

1272
00:55:31,806 --> 00:55:33,982
-♪ 是不是太晚了 ♪
-♪ 太遲了 ♪

1273
00:55:34,026 --> 00:55:36,637
♪ 來不及說 ♪

1274
00:55:36,681 --> 00:55:42,469
♪ 對不起？ ♪

1275
00:55:42,513 --> 00:55:45,472
RAJI：我擔心什麼
人工智慧是

1276
00:55:45,516 --> 00:55:47,387
這些正在部署中
現在

1277
00:55:47,431 --> 00:55:49,781
並且-有時
過早部署，

1278
00:55:49,824 --> 00:55:51,478
部署時無需
某種盡職調查。

1279
00:55:51,522 --> 00:55:53,437
所以當他們得到
扔到那裡去,

1280
00:55:53,480 --> 00:55:56,178
有很大的潛力
以免事情出錯。

1281
00:55:56,222 --> 00:55:58,050
而這幾乎，
不成比例地,

1282
00:55:58,093 --> 00:56:00,400
幾乎總是出錯
對於，某種程度上，

1283
00:56:00,444 --> 00:56:02,533
那些最少的
在我們的社會中被賦予權力，

1284
00:56:02,576 --> 00:56:04,926
那些是
已經是最脆弱的了。

1285
00:56:04,970 --> 00:56:07,625
♪ ♪

1286
00:56:07,668 --> 00:56:10,497
EMILY M. BENDER：這很容易
談論技術

1287
00:56:10,541 --> 00:56:12,499
因為這是唯一的事情
我們正在談論，

1288
00:56:12,543 --> 00:56:14,936
但事實上，技術是
總是由人建造的，

1289
00:56:14,980 --> 00:56:16,634
並且經常使用
對人來說，

1290
00:56:16,677 --> 00:56:18,679
我們需要保留
框架中的所有這些人。

1291
00:56:18,723 --> 00:56:20,986
-我可以喝那個嗎？
-丹尼爾：是的，呃…

1292
00:56:21,029 --> 00:56:22,509
蒂姆尼特·格布魯：
這真是——太瘋狂了。

1293
00:56:22,553 --> 00:56:23,945
就像，所有這些人

1294
00:56:23,989 --> 00:56:26,339
誰有這麼多錢，
這麼多錢，

1295
00:56:26,383 --> 00:56:29,777
這符合他們的利益
誤導大眾

1296
00:56:29,821 --> 00:56:32,737
的能力
他們正在建構的系統，

1297
00:56:32,780 --> 00:56:36,262
因為這可以讓他們
來逃避責任。

1298
00:56:36,305 --> 00:56:39,091
他們希望你有這樣的感覺
是如此複雜的智力——

1299
00:56:39,134 --> 00:56:41,833
超級智慧的東西
他們正在建造的，

1300
00:56:41,876 --> 00:56:44,096
你不是在想，
“OpenAI 可以道德嗎？”

1301
00:56:44,139 --> 00:56:46,272
你在想，
“ChatGPT 可以道德嗎？”

1302
00:56:46,315 --> 00:56:48,100
就好像 ChatGPT 一樣，

1303
00:56:48,143 --> 00:56:49,928
它自己的東西沒有被建造
由一家公司。

1304
00:56:49,971 --> 00:56:51,625
女人：
好吧。斯內哈，拿一個。

1305
00:56:51,669 --> 00:56:53,410
標記。

1306
00:56:53,453 --> 00:56:55,760
直到最近，還有
應用程式商店中的應用程序，

1307
00:56:55,803 --> 00:56:57,501
只是公開的，呃，

1308
00:56:57,544 --> 00:56:59,894
你可以在哪裡
使用人工智慧裸體任何人。

1309
00:57:01,374 --> 00:57:03,681
將其交到手中

1310
00:57:03,724 --> 00:57:05,900
你的同學，
落入你的跟蹤狂手中，

1311
00:57:05,944 --> 00:57:07,554
到手上
你的前男友，

1312
00:57:07,598 --> 00:57:09,513
到該人的手中
沿著街道。

1313
00:57:09,556 --> 00:57:12,037
女士們、先生們，
我們不再可以信任

1314
00:57:12,080 --> 00:57:14,039
我們看到的鏡頭
用我們自己的眼睛。

1315
00:57:14,082 --> 00:57:15,736
如果你發生
觀看某事，

1316
00:57:15,780 --> 00:57:18,130
在 YouTube 或 TikTok 上說，
而你卻發現它令人不安，

1317
00:57:18,173 --> 00:57:19,479
聽聽那種感覺。

1318
00:57:19,523 --> 00:57:21,263
-[呼喊]
-據你所知，

1319
00:57:21,307 --> 00:57:22,917
-這個影片可能是人工智慧。
-[尖叫]

1320
00:57:22,961 --> 00:57:24,310
只是有點濕。

1321
00:57:24,353 --> 00:57:25,703
你是誰並不重要。

1322
00:57:25,746 --> 00:57:28,183
你同樣面臨風險

1323
00:57:28,227 --> 00:57:30,229
受到影響的
透過這些技術。

1324
00:57:35,713 --> 00:57:39,804
我想有時候當我們說話的時候
關於AI，感覺很科幻，

1325
00:57:39,847 --> 00:57:41,153
而且感覺很陌生，

1326
00:57:41,196 --> 00:57:42,981
感覺很遙遠
走向未來，

1327
00:57:43,024 --> 00:57:45,549
所以你會想，「我的生活
不受此影響。 」

1328
00:57:45,592 --> 00:57:48,290
嗯，但是如果你正在申請
為了一份工作

1329
00:57:48,334 --> 00:57:50,815
演算法就是原因
你沒有得到這份工作，

1330
00:57:50,858 --> 00:57:52,686
有時你甚至不知道
那個演算法

1331
00:57:52,730 --> 00:57:54,209
是過程的一部分

1332
00:57:54,253 --> 00:57:55,689
或者人工智慧系統是
該過程的一部分。

1333
00:57:55,733 --> 00:57:57,691
你只知道
你沒有得到這份工作。

1334
00:57:57,735 --> 00:57:59,737
所以這不是什麼
你會逃跑

1335
00:57:59,780 --> 00:58:01,695
因為特權
不然你就會逃跑

1336
00:58:01,739 --> 00:58:03,828
因為你在
特定的職業。

1337
00:58:03,871 --> 00:58:06,918
它-它是影響的東西
大家，真的。

1338
00:58:06,961 --> 00:58:10,530
這聽起來可能很基礎，
但我們如何前進

1339
00:58:10,574 --> 00:58:15,056
資訊時代
將會有不同

1340
00:58:15,100 --> 00:58:17,189
在我們能否生存之間

1341
00:58:17,232 --> 00:58:20,409
或者我們是否會成為某種
的[嗶]-up反烏托邦。

1342
00:58:20,453 --> 00:58:23,021
你好。我不是一個真實的人，
這就是重點。

1343
00:58:23,064 --> 00:58:25,327
再說一遍，一切
該影片中的內容是假的：

1344
00:58:25,371 --> 00:58:27,112
我們的聲音，我們的穿著，

1345
00:58:27,155 --> 00:58:30,158
我們現在所在的地方，所有的一切，都是假的。

1346
00:58:30,202 --> 00:58:32,726
生成式人工智慧可能會氾濫

1347
00:58:32,770 --> 00:58:36,469
充滿錯誤訊息的世界。

1348
00:58:36,513 --> 00:58:39,516
但它也可能淹沒它
透過影響力活動。

1349
00:58:39,559 --> 00:58:41,692
這是一個存在的風險
民主。

1350
00:58:41,735 --> 00:58:43,694
最大最可怕的

1351
00:58:43,737 --> 00:58:46,087
煤礦裡的金絲雀
現在

1352
00:58:46,131 --> 00:58:48,220
來自斯洛伐克。

1353
00:58:48,263 --> 00:58:49,787
-[斯洛伐克語男子]
-約翰伯曼：這是一種

1354
00:58:49,830 --> 00:58:52,224
Deepfake的骯髒伎倆
選舉專家擔心，

1355
00:58:52,267 --> 00:58:54,966
特別是人工智慧生成的
政治言論存在

1356
00:58:55,009 --> 00:58:56,750
處於一種法律灰色地帶。

1357
00:58:56,794 --> 00:58:59,536
-這聽起來像你嗎？
-聽起來確實像我。

1358
00:58:59,579 --> 00:59:01,059
REVANUR：斯洛伐克
其議會選舉

1359
00:59:01,102 --> 00:59:03,844
被人工智慧語音克隆擾亂

1360
00:59:03,888 --> 00:59:06,717
確實被傳播了
就在選舉之前。

1361
00:59:06,760 --> 00:59:08,457
大衛‧埃文‧哈里斯：
音訊深度偽造

1362
00:59:08,501 --> 00:59:11,025
被釋放
在社群媒體上

1363
00:59:11,069 --> 00:59:14,028
據說聲音
其中一名候選人的

1364
00:59:14,072 --> 00:59:16,814
談論買選票
並操縱選舉。

1365
00:59:16,857 --> 00:59:18,642
它病毒式傳播，

1366
00:59:18,685 --> 00:59:22,341
和候選人
誰輸掉了選舉

1367
00:59:22,384 --> 00:59:26,084
實際上是
支持烏克蘭，

1368
00:59:26,127 --> 00:59:29,783
以及獲勝的候選人
這次選舉其實是...

1369
00:59:29,827 --> 00:59:31,306
丹尼爾：
親俄羅斯的傢伙。

1370
00:59:31,350 --> 00:59:32,830
這是一個親俄羅斯的傢伙
誰贏得了選舉。

1371
00:59:32,873 --> 00:59:34,353
[說俄語]

1372
00:59:34,396 --> 00:59:36,007
麗貝卡·賈維斯：
普丁本人曾說過

1373
00:59:36,050 --> 00:59:39,184
無論誰贏了這個
人工智慧競賽

1374
00:59:39,227 --> 00:59:41,534
本質上是
人類的控制者。

1375
00:59:41,578 --> 00:59:44,493
我們確實很擔心
專制政府。

1376
00:59:45,973 --> 00:59:48,585
大衛‧埃文‧哈里斯：
現在，華爾街

1377
00:59:48,628 --> 00:59:50,935
以及更廣泛的投資者
世界各地

1378
00:59:50,978 --> 00:59:52,980
正在推動。

1379
00:59:53,024 --> 00:59:56,070
他們有一個需求
產品推向市場

1380
00:59:56,114 --> 00:59:58,377
使人們眼花撩亂
最先。

1381
00:59:58,420 --> 01:00:01,206
他們沒有思考
關於這些工具如何

1382
01:00:01,249 --> 01:00:03,164
可能會嚴重破壞信任

1383
01:00:03,208 --> 01:00:05,689
和我們的民主機構。

1384
01:00:05,732 --> 01:00:07,734
哈拉里：
民主是一種制度

1385
01:00:07,778 --> 01:00:10,389
解決分歧
人與人之間

1386
01:00:10,432 --> 01:00:11,999
以一種和平的方式，

1387
01:00:12,043 --> 01:00:14,698
但民主是建立在信任的基礎上的。

1388
01:00:14,741 --> 01:00:18,615
如果你失去了所有的信任，
民主根本不可能。

1389
01:00:20,921 --> 01:00:22,488
特里斯坦哈里斯：
嗯，這很難，對吧？

1390
01:00:22,531 --> 01:00:24,708
那麼，有哪些選擇
可供我們使用嗎？

1391
01:00:24,751 --> 01:00:26,187
有兩個陣營。

1392
01:00:26,231 --> 01:00:29,626
就像，一個陣營是：鎖定它。

1393
01:00:29,669 --> 01:00:32,933
讓我們鎖定這個
進入少數人工智慧公司

1394
01:00:32,977 --> 01:00:35,457
誰會做這個
以安全且值得信賴的方式。

1395
01:00:35,501 --> 01:00:37,068
但隨後人們擔心

1396
01:00:37,111 --> 01:00:39,026
濃度失控
財富和權力。

1397
01:00:39,070 --> 01:00:41,855
例如，你會相信誰
強大一百萬倍

1398
01:00:41,899 --> 01:00:44,249
或富有於
社會上所有其他演員？

1399
01:00:44,292 --> 01:00:46,338
我們為什麼要相信你？

1400
01:00:46,381 --> 01:00:48,601
嗯，你不應該。

1401
01:00:48,645 --> 01:00:51,212
但當然，如果你這樣做，
這打開了

1402
01:00:51,256 --> 01:00:54,433
所有這些風險
獨裁主義和暴政。

1403
01:00:54,476 --> 01:00:57,131
這——有點像
獨裁者的夢想

1404
01:00:57,175 --> 01:01:00,308
將人工智慧裝在盒子裡
可以應用和使用的

1405
01:01:00,352 --> 01:01:02,920
用於無處不在的監視。

1406
01:01:02,963 --> 01:01:05,357
我的意思是，在某些方面，
什麼樣的世界

1407
01:01:05,400 --> 01:01:10,884
歐威爾在 1984 年想像出來的
是不現實的,

1408
01:01:10,928 --> 01:01:13,278
呃，除非你有AI。

1409
01:01:13,321 --> 01:01:15,933
但有了人工智慧，
這實際上是現實的。

1410
01:01:15,976 --> 01:01:18,370
監控每一個活動，

1411
01:01:18,413 --> 01:01:22,026
對話，
臉部辨識。

1412
01:01:22,069 --> 01:01:26,378
我擔心的是，
呃，這些工具可以擴展，

1413
01:01:26,421 --> 01:01:28,554
呃，極權主義的一種形式

1414
01:01:28,597 --> 01:01:31,035
這是具有成本效益的
和永久的。

1415
01:01:32,950 --> 01:01:35,300
特里斯坦哈里斯：作為回應
對此，其他一些人說，

1416
01:01:35,343 --> 01:01:37,128
「不不不，我們應該
實際上讓這撕裂。

1417
01:01:37,171 --> 01:01:39,391
「讓我們分散這種權力
盡可能多的。

1418
01:01:39,434 --> 01:01:41,567
「讓我們每個企業，
每個人，

1419
01:01:41,610 --> 01:01:43,917
「每個16歲的人，
每個科學實驗室，

1420
01:01:43,961 --> 01:01:45,963
你知道，得到好處
最新的人工智慧模型。 」

1421
01:01:46,006 --> 01:01:48,226
但現在你有
每一個恐怖組織，

1422
01:01:48,269 --> 01:01:51,664
每個被剝奪權利的人
有能力製造

1423
01:01:51,708 --> 01:01:53,797
最糟糕的
生物武器。

1424
01:01:53,840 --> 01:01:55,581
駭客基礎設施，
創造深度贗品，

1425
01:01:55,624 --> 01:01:57,452
洪水
我們的資訊環境。

1426
01:01:57,496 --> 01:02:00,412
這就造成了所有這些風險
某種災難性的傷害

1427
01:02:00,455 --> 01:02:02,893
社會崩潰
通過那個方向。

1428
01:02:02,936 --> 01:02:04,677
所以我們有點陷入困境
在這塊岩石之間

1429
01:02:04,721 --> 01:02:07,549
和一個艱難的地方，
在「鎖起來…」之間

1430
01:02:07,593 --> 01:02:09,029
[模糊的喋喋不休]

1431
01:02:10,683 --> 01:02:12,293
-...或“讓它撕裂。”
-[警笛聲響]

1432
01:02:12,337 --> 01:02:14,208
[人們大喊]

1433
01:02:14,252 --> 01:02:17,559
所以我們必須找到一些東西
像一條窄路

1434
01:02:17,603 --> 01:02:20,388
這避免了
這兩個負面結果。

1435
01:02:20,432 --> 01:02:22,956
所以，如果這一切都是真的，
我們為什麼不放慢速度

1436
01:02:23,000 --> 01:02:25,829
並弄清楚這一切
在為時已晚之前？

1437
01:02:25,872 --> 01:02:28,919
如果人類極其智慧，

1438
01:02:28,962 --> 01:02:31,182
這就是我們要做的。

1439
01:02:31,225 --> 01:02:33,097
但有一個不同的
面對這些事情的方式，對嗎？

1440
01:02:33,140 --> 01:02:35,926
這是：
遊戲規則是什麼？

1441
01:02:35,969 --> 01:02:39,494
很多，例如執行長所做的事情

1442
01:02:39,538 --> 01:02:42,149
是由
他們面臨的激勵因素。

1443
01:02:42,193 --> 01:02:45,283
這主要是
利潤最大化激勵

1444
01:02:45,326 --> 01:02:47,198
正在開車的
人工智慧的發展。

1445
01:02:47,241 --> 01:02:50,375
連好人也被困住了
在這種困境中

1446
01:02:50,418 --> 01:02:52,638
如果他們移動得太慢，

1447
01:02:52,681 --> 01:02:54,553
然後他們離開自己
脆弱的

1448
01:02:54,596 --> 01:02:57,251
對所有其他人
他們正在偷工減料。

1449
01:02:57,295 --> 01:03:01,995
所有這些頂級公司都在
一場完全無拘無束的比賽

1450
01:03:02,039 --> 01:03:05,433
盡可能快地獲得
前往 AGI，立即前往。

1451
01:03:05,477 --> 01:03:06,913
♪ ♪

1452
01:03:08,567 --> 01:03:10,351
拉迪什：是的，我的意思是，
我覺得我覺得

1453
01:03:10,395 --> 01:03:12,919
它可能開始
與 DeepMind 一起。

1454
01:03:12,963 --> 01:03:14,791
女新聞員：
谷歌正在收購

1455
01:03:14,834 --> 01:03:16,357
人工智慧公司
深腦科技。

1456
01:03:16,401 --> 01:03:18,620
交易條款
沒有透露。

1457
01:03:18,664 --> 01:03:20,709
伊隆馬斯克：拉里佩奇和我
曾經是非常親密的朋友，

1458
01:03:20,753 --> 01:03:22,711
對我來說很明顯

1459
01:03:22,755 --> 01:03:26,411
拉里不在乎
關於人工智慧安全。

1460
01:03:26,454 --> 01:03:28,892
艾米莉張：伊隆馬斯克說過
你開始了 OpenAI，

1461
01:03:28,935 --> 01:03:30,981
你們都創辦了 OpenAI，因為
他害怕谷歌。

1462
01:03:31,024 --> 01:03:32,156
LADISH：你-你基本上
有基礎

1463
01:03:32,199 --> 01:03:33,722
OpenAI 的誕生。

1464
01:03:33,766 --> 01:03:35,202
「所以我們會做得更好。
我們會做的

1465
01:03:35,246 --> 01:03:36,813
以更安全的方式
或以更開放的方式。 」

1466
01:03:38,466 --> 01:03:40,555
這就是 OpenAI 的起源。

1467
01:03:40,599 --> 01:03:42,731
所以現在，而不是
擁有一個 AGI 項目，

1468
01:03:42,775 --> 01:03:44,821
你有兩個 AGI 項目。

1469
01:03:44,864 --> 01:03:46,910
最糟糕的事情
那可能發生

1470
01:03:46,953 --> 01:03:49,608
是如果有
多個AGI項目

1471
01:03:49,651 --> 01:03:51,871
由不同的人完成
誰不喜歡彼此

1472
01:03:51,915 --> 01:03:54,787
並且都在競爭
首先了解 AGI。

1473
01:03:54,831 --> 01:03:56,963
這將是最糟糕的
可能發生的事情，

1474
01:03:57,007 --> 01:04:00,097
因為這意味著
誰最不安全，

1475
01:04:00,140 --> 01:04:03,143
誰犧牲最大
安全領先

1476
01:04:03,187 --> 01:04:05,145
將是那個人
首先到達那裡。

1477
01:04:05,189 --> 01:04:07,844
-丹尼爾：基本上就是這樣
發生了什麼事，對吧？ -是的。

1478
01:04:07,887 --> 01:04:11,325
你和你的兄弟
著名地離開了 OpenAI，呃，

1479
01:04:11,369 --> 01:04:12,936
開始人擇。

1480
01:04:12,979 --> 01:04:15,068
拉斯金：然後是人擇
開始是因為

1481
01:04:15,112 --> 01:04:17,854
一些研究人員
OpenAI 內部表示，

1482
01:04:17,897 --> 01:04:20,508
“我想走開
並且做得更安全。 」

1483
01:04:20,552 --> 01:04:23,511
你還需要一些東西
只是擴大模型的規模，

1484
01:04:23,555 --> 01:04:25,818
這是對齊或安全。

1485
01:04:25,862 --> 01:04:27,428
亨德里克斯：
“我們更有責任

1486
01:04:27,472 --> 01:04:29,648
或更值得信賴
或更道德。 」

1487
01:04:29,691 --> 01:04:31,519
現在您有三個 AGI 項目。

1488
01:04:31,563 --> 01:04:33,043
但也圍坐在一起
和你同桌

1489
01:04:33,086 --> 01:04:34,827
將會是一群人工智慧。

1490
01:04:34,871 --> 01:04:37,525
LADISH：現在 Meta 是-是
嘗試做某事。

1491
01:04:37,569 --> 01:04:39,571
同時，一種新的人工
情報競爭對手

1492
01:04:39,614 --> 01:04:41,573
本周宣布，
馬斯克的...

1493
01:04:41,616 --> 01:04:44,619
HENDRYCKS：xAI，這將是
伊隆·馬斯克的組織。

1494
01:04:44,663 --> 01:04:46,230
麝香：
我不信任 OpenAI。

1495
01:04:46,273 --> 01:04:47,884
之間的戰鬥
馬斯克和 OpenAI

1496
01:04:47,927 --> 01:04:49,581
已進入新一輪。

1497
01:04:49,624 --> 01:04:51,713
我不相信山姆·奧特曼
呃，我，我不認為

1498
01:04:51,757 --> 01:04:54,194
我們想要擁有最多
世界上最強大的人工智慧

1499
01:04:54,238 --> 01:04:56,414
被某人控制
誰不值得信賴。

1500
01:04:56,457 --> 01:04:58,416
[歡呼與掌聲]

1501
01:04:58,459 --> 01:05:01,593
激勵措施是
數不清的錢。

1502
01:05:01,636 --> 01:05:03,377
-是的。
——是難以言喻的力量。

1503
01:05:03,421 --> 01:05:05,553
-是的。
- 是不可言說的控制。

1504
01:05:05,597 --> 01:05:08,034
如果你有什麼
那是聰明一百萬倍

1505
01:05:08,078 --> 01:05:11,385
並且比更有能力
地球上的其他一切

1506
01:05:11,429 --> 01:05:14,171
而且沒有人有這樣的能力，

1507
01:05:14,214 --> 01:05:15,955
那東西就是激勵。

1508
01:05:15,999 --> 01:05:17,261
所以你統治世界。

1509
01:05:18,610 --> 01:05:20,394
如果你真的相信這一點，

1510
01:05:20,438 --> 01:05:22,744
如果你真的在心裡
相信這一點，

1511
01:05:22,788 --> 01:05:24,181
那你可能會
願意接受

1512
01:05:24,224 --> 01:05:26,096
相當大的風險
為了實現這一目標。

1513
01:05:26,139 --> 01:05:28,881
谷歌剛剛發布了
其最新的人工智慧模型。

1514
01:05:28,925 --> 01:05:31,231
OpenAI 的 ChatGPT 的答案。

1515
01:05:31,275 --> 01:05:33,059
我們如何到達
這十萬億？

1516
01:05:33,103 --> 01:05:35,192
NVIDIA 是否已成為最
美國有價值的公司？

1517
01:05:35,235 --> 01:05:38,978
這是最大的生意
歷史上的機會。

1518
01:05:39,022 --> 01:05:40,501
歷史上。

1519
01:05:40,545 --> 01:05:42,242
那麼，究其原因，
每個人都非常興奮

1520
01:05:42,286 --> 01:05:44,679
關於人工智慧
現在

1521
01:05:44,723 --> 01:05:48,031
是因為
這些公司炒作得越多

1522
01:05:48,074 --> 01:05:50,033
潛在能力
他們的技術，

1523
01:05:50,076 --> 01:05:53,210
投資越多
他們可以吸引。

1524
01:05:53,253 --> 01:05:54,733
卡爾金塔尼利亞：
亞馬遜投資鋼彈

1525
01:05:54,776 --> 01:05:56,996
四十億美元
在新創公司 Anthropic 中。

1526
01:05:57,040 --> 01:05:58,693
OpenAI 正在瞄準

1527
01:05:58,737 --> 01:06:00,739
在轟動一時的一半
兆美元估值。

1528
01:06:00,782 --> 01:06:02,001
五萬億！

1529
01:06:02,045 --> 01:06:03,220
比賽開始了。

1530
01:06:03,263 --> 01:06:04,612
這正在發生
比以往任何時候都快。

1531
01:06:04,656 --> 01:06:06,614
我們正處於人工智慧泡沫之中嗎？
當然。

1532
01:06:06,658 --> 01:06:09,182
我就是沒看到
泡沫破裂

1533
01:06:09,226 --> 01:06:12,446
當你還有
這個主要的支出週期。

1534
01:06:12,490 --> 01:06:15,014
拉斯金：即使你認為
這都是炒作，

1535
01:06:15,058 --> 01:06:17,582
有數十億
至數兆美元

1536
01:06:17,625 --> 01:06:21,107
流入人工智慧系統
更強大。

1537
01:06:21,151 --> 01:06:23,849
一旦你擁有了那個東西
那個更強大，

1538
01:06:23,892 --> 01:06:25,546
公司可以使用它

1539
01:06:25,590 --> 01:06:27,548
以獲得更大的利潤
並賺更多的錢。

1540
01:06:27,592 --> 01:06:30,116
國家可以使用它
使軍隊更加強大。

1541
01:06:30,160 --> 01:06:32,814
英偉達已經超越
微軟與蘋果

1542
01:06:32,858 --> 01:06:36,253
成為世界上
最有價值的公司。

1543
01:06:36,296 --> 01:06:38,995
部署競賽變成了
魯莽的競賽，

1544
01:06:39,038 --> 01:06:41,780
因為他們不能
快速部署

1545
01:06:41,823 --> 01:06:43,173
並做對。

1546
01:06:43,216 --> 01:06:46,045
他們相信
他們是好人。

1547
01:06:46,089 --> 01:06:49,309
「如果我不這麼做，
沒有的人

1548
01:06:49,353 --> 01:06:51,572
「和我一樣有良好的價值觀
將坐在桌旁

1549
01:06:51,616 --> 01:06:54,445
做出決定，所以
我有義務這樣做。 」

1550
01:06:54,488 --> 01:06:56,186
是的，這是
一個非常普遍的信念。

1551
01:06:56,229 --> 01:06:58,579
很多很多很多，
也許大多數人

1552
01:06:58,623 --> 01:07:00,712
建構這項技術
相信這一點。

1553
01:07:00,755 --> 01:07:03,715
我擔心
商業競爭，

1554
01:07:03,758 --> 01:07:05,847
但事實證明
我更擔心的是

1555
01:07:05,891 --> 01:07:08,024
地緣政治競爭。

1556
01:07:08,067 --> 01:07:10,330
我們落後了八年
一年前。

1557
01:07:10,374 --> 01:07:12,593
現在我們可能
落後不到一年。

1558
01:07:12,637 --> 01:07:15,683
好吧，沙烏地阿拉伯
和阿聯酋一直在比賽

1559
01:07:15,727 --> 01:07:18,121
建立資料中心
並給自己定位

1560
01:07:18,164 --> 01:07:20,384
作為人工智慧領域的主導力量...

1561
01:07:20,427 --> 01:07:22,429
....打造韓國
全球人工智慧領導者。

1562
01:07:22,473 --> 01:07:23,996
茱莉亞西格：
法國總統馬克宏

1563
01:07:24,040 --> 01:07:25,867
說了很多關於
人工智慧...

1564
01:07:25,911 --> 01:07:27,434
現在更多關於以色列的角色

1565
01:07:27,478 --> 01:07:29,610
在人工智慧領域
革命...

1566
01:07:29,654 --> 01:07:33,092
各國將展開競爭
人工智慧技術為誰服務

1567
01:07:33,136 --> 01:07:34,876
創造下一代
的工業。

1568
01:07:34,920 --> 01:07:38,010
中國人堅持
那個人工智慧，

1569
01:07:38,054 --> 01:07:39,838
由於在中國正在開發，

1570
01:07:39,881 --> 01:07:41,709
強化核心價值

1571
01:07:41,753 --> 01:07:44,016
中國共產黨的
以及中國的製度。

1572
01:07:44,060 --> 01:07:48,716
美國必須擊敗中國
在人工智慧競賽中。

1573
01:07:48,760 --> 01:07:51,023
丹尼爾：中國的，比如，
落後光年。

1574
01:07:51,067 --> 01:07:52,677
他們是嗎？

1575
01:07:52,720 --> 01:07:54,983
我的意思是，他們還有更多
訓練資料比我們多，

1576
01:07:55,027 --> 01:07:57,812
沒有什麼說他們
下個月不要放棄模型

1577
01:07:57,856 --> 01:08:00,946
那不是——
並沒有比 GPT-4 好多少。

1578
01:08:00,989 --> 01:08:03,818
一切都很順利。
可能會出什麼問題？

1579
01:08:03,862 --> 01:08:06,691
-DeepSeek...[說中文]
-DeepSeek... -DeepSeek...

1580
01:08:06,734 --> 01:08:08,040
有一個新模型。

1581
01:08:08,084 --> 01:08:10,825
但來自中國實驗室
稱為 DeepSeek。

1582
01:08:10,869 --> 01:08:13,959
我們來談談DeepSeek，
因為它令人心曠神怡，

1583
01:08:14,002 --> 01:08:17,658
它正在震動這個
整個產業的核心。

1584
01:08:17,702 --> 01:08:19,399
川普政府
將確保

1585
01:08:19,443 --> 01:08:23,055
那個最強大的
人工智慧系統是在美國建造的

1586
01:08:23,099 --> 01:08:26,537
與美國設計
並製造晶片。

1587
01:08:26,580 --> 01:08:28,800
人工智慧是中國的
阿波羅計劃。

1588
01:08:28,843 --> 01:08:30,193
中國共產黨

1589
01:08:30,236 --> 01:08:31,542
深刻理解潛力

1590
01:08:31,585 --> 01:08:32,891
讓人工智慧擾亂戰爭。

1591
01:08:32,934 --> 01:08:35,328
谷歌不再承諾
它不會

1592
01:08:35,372 --> 01:08:38,418
使用人工智慧
用於武器或監視。

1593
01:08:38,462 --> 01:08:40,028
中國、北韓、俄羅斯

1594
01:08:40,072 --> 01:08:41,900
我們會繼續建造它
盡快

1595
01:08:41,943 --> 01:08:44,511
為了獲得更多的經濟優勢，
更俱生產力優勢，

1596
01:08:44,555 --> 01:08:46,818
更科學的優勢，
更多的軍事優勢，

1597
01:08:46,861 --> 01:08:48,646
因為人工智慧可以製造出更好的武器。

1598
01:08:48,689 --> 01:08:51,736
如果你說的是
一個廣泛而強大的系統

1599
01:08:51,779 --> 01:08:53,303
作為一位傑出的科學家，

1600
01:08:53,346 --> 01:08:57,959
它可能能夠運行
軍事行動

1601
01:08:58,003 --> 01:09:01,441
勝過任何將軍
現在在美國政府。

1602
01:09:01,485 --> 01:09:05,489
台灣問題是造成
現在最緊張

1603
01:09:05,532 --> 01:09:07,882
北京和美國之間。

1604
01:09:07,926 --> 01:09:10,450
有一個直接的
對立分歧

1605
01:09:10,494 --> 01:09:11,973
美國和中國之間

1606
01:09:12,017 --> 01:09:13,975
關於台灣是否
中國的一部分。

1607
01:09:14,019 --> 01:09:18,415
馬西尼：台灣很重要
由於很多原因。

1608
01:09:18,458 --> 01:09:20,547
這裡也是

1609
01:09:20,591 --> 01:09:24,160
約90%的先進晶片
為世界製造，

1610
01:09:24,203 --> 01:09:28,381
這意味著供應
進階運算鏈

1611
01:09:28,425 --> 01:09:31,036
是否有風險

1612
01:09:31,079 --> 01:09:32,951
某種場景
台灣週邊，

1613
01:09:32,994 --> 01:09:37,999
是否a-a封鎖
或中國的入侵。

1614
01:09:38,043 --> 01:09:40,698
亨德里克斯：
我們要參加一些比賽嗎

1615
01:09:40,741 --> 01:09:45,616
美國和中國之間
最終演變成

1616
01:09:45,659 --> 01:09:49,359
軍事化的人工智慧軍備競賽，
你知道，可能會導致

1617
01:09:49,402 --> 01:09:51,274
某些大國衝突？

1618
01:09:51,317 --> 01:09:53,014
尼克希弗林：即將離任
美軍最高軍事指揮官

1619
01:09:53,058 --> 01:09:55,843
在該地區
預言戰爭即將來臨。

1620
01:09:55,887 --> 01:09:57,932
我認為威脅是顯而易見的
在這十年裡，

1621
01:09:57,976 --> 01:09:59,456
事實上，在接下來的六年裡。

1622
01:09:59,499 --> 01:10:01,414
馬西尼：
嗯，場景之一

1623
01:10:01,458 --> 01:10:05,853
我擔心的是
一場網路閃電戰，

1624
01:10:05,897 --> 01:10:10,902
嗯，其中一個
自主的網路工具

1625
01:10:10,945 --> 01:10:12,947
正在互相競爭

1626
01:10:12,991 --> 01:10:14,601
以逐步升級的方式

1627
01:10:14,645 --> 01:10:16,386
沒有
有意義的人類控制。

1628
01:10:18,823 --> 01:10:20,433
哈拉里：
你生活在戰區，

1629
01:10:20,477 --> 01:10:23,784
這將由人工智慧決定
是否轟炸你的房子

1630
01:10:23,828 --> 01:10:25,743
以及是否殺了你。

1631
01:10:25,786 --> 01:10:27,527
讓機器來決定吧。

1632
01:10:27,571 --> 01:10:29,355
這就是誘惑。

1633
01:10:29,399 --> 01:10:32,576
這就是為什麼人工智慧如此誘人
供軍隊採用，

1634
01:10:32,619 --> 01:10:35,753
製造自主武器，
因為如果我開始相信

1635
01:10:35,796 --> 01:10:39,147
我的軍事對手
將採用人工智慧，

1636
01:10:39,191 --> 01:10:41,802
這將是一場誰能做到的競賽
更快地扣下板機。

1637
01:10:41,846 --> 01:10:44,892
以及自動化的那個
那個決定，

1638
01:10:44,936 --> 01:10:47,199
而不是擁有
一個人在循環中，

1639
01:10:47,243 --> 01:10:49,201
是那個
那將贏得那場戰爭。

1640
01:10:49,245 --> 01:10:50,637
如果你想

1641
01:10:50,681 --> 01:10:53,074
核武軍備競賽
在 20 世紀 40 年代...

1642
01:10:54,554 --> 01:10:56,556
....你了解德國人
正在研究炸彈，

1643
01:10:56,600 --> 01:11:00,734
所以這並不容易說清楚
羅伯特·奧本海默當時，

1644
01:11:00,778 --> 01:11:03,781
“呃，你知道，你慢一點。”

1645
01:11:03,824 --> 01:11:05,304
所以看完這部電影後，
會很混亂，

1646
01:11:05,348 --> 01:11:06,653
因為你要回去

1647
01:11:06,697 --> 01:11:08,307
明天
你會使用ChatGPT，

1648
01:11:08,351 --> 01:11:10,440
將會是
難以置信的有幫助。

1649
01:11:10,483 --> 01:11:12,703
我也會用它，並且
這會非常有幫助。

1650
01:11:12,746 --> 01:11:16,141
你會說，「等等，所以
我剛剛看了一部關於人工智慧的電影

1651
01:11:16,184 --> 01:11:18,012
「和存在風險
所有這些事情，

1652
01:11:18,056 --> 01:11:20,624
威脅又在哪裡？ 」

1653
01:11:20,667 --> 01:11:24,715
ChatGPT 並不是這樣的
存在的威脅。

1654
01:11:24,758 --> 01:11:28,675
這就是部署競賽
最強大的，

1655
01:11:28,719 --> 01:11:31,635
深不可測，
不可控的技術，

1656
01:11:31,678 --> 01:11:35,116
最壞的情況下
可能的激勵措施，

1657
01:11:35,160 --> 01:11:37,031
這就是存在的威脅。

1658
01:11:38,119 --> 01:11:40,383
丹尼爾：
但令我震驚的是——

1659
01:11:40,426 --> 01:11:43,211
我們正處於一場競賽的背景下。

1660
01:11:43,255 --> 01:11:45,910
-SUTSKEVER：是的。
-而且是在競爭激烈的情況下，

1661
01:11:45,953 --> 01:11:47,651
「必須先到達那裡，
必須贏得比賽」的設定，

1662
01:11:47,694 --> 01:11:49,000
「必須與中國競爭，

1663
01:11:49,043 --> 01:11:50,349
必須競爭
其他實驗室。 」

1664
01:11:50,393 --> 01:11:51,829
是不是這樣？

1665
01:11:51,872 --> 01:11:53,657
今天的情況就是如此。

1666
01:11:53,700 --> 01:11:56,703
所以我們需要改變
那種比賽動態。

1667
01:11:57,922 --> 01:11:59,924
你不覺得嗎？

1668
01:11:59,967 --> 01:12:02,187
我認為那會是
確實非常好。

1669
01:12:03,710 --> 01:12:06,496
我-我認為
有某種...

1670
01:12:06,539 --> 01:12:09,542
圍繞人工智慧的神秘主義
這讓人感覺就像

1671
01:12:09,586 --> 01:12:11,718
它從天上掉下來。

1672
01:12:11,762 --> 01:12:13,459
丹尼爾：想到這個
作為神一般的技術

1673
01:12:13,503 --> 01:12:15,418
是一個問題。

1674
01:12:15,461 --> 01:12:16,897
是的。

1675
01:12:18,072 --> 01:12:19,900
為什麼？

1676
01:12:19,944 --> 01:12:22,990
它給予許可
給公司...

1677
01:12:23,034 --> 01:12:26,254
[笑]
不承擔責任

1678
01:12:26,298 --> 01:12:30,781
對於該軟體的東西
他們建造的確實如此。

1679
01:12:30,824 --> 01:12:35,089
如果人們建立了這種聯繫，

1680
01:12:35,133 --> 01:12:37,527
也許那會像
幫助他們再次理解

1681
01:12:37,570 --> 01:12:41,835
的動態
所有的金錢和權力以及…

1682
01:12:41,879 --> 01:12:45,317
正在發生的混亂…

1683
01:12:45,361 --> 01:12:47,101
創造這項技術。

1684
01:12:47,145 --> 01:12:49,234
好像有五個人
誰控制它，對嗎？

1685
01:12:49,277 --> 01:12:51,628
-比如，五個男人？
-基本上，是的。

1686
01:12:51,671 --> 01:12:53,847
-執行長們？
-是的。

1687
01:12:53,891 --> 01:12:55,371
好的。

1688
01:12:56,720 --> 01:12:58,722
♪ ♪

1689
01:13:01,072 --> 01:13:03,074
丹尼爾：
有時感覺就像

1690
01:13:03,117 --> 01:13:07,252
我一直在這個
就像無盡的旅程

1691
01:13:07,295 --> 01:13:09,341
試著理解這一點。

1692
01:13:09,385 --> 01:13:12,388
你知道，就像
我正在爬山...

1693
01:13:15,608 --> 01:13:19,133
……而且每次
我就像爬上一座小山，

1694
01:13:19,177 --> 01:13:20,744
我想我已經達到頂峰了

1695
01:13:20,787 --> 01:13:23,399
但它一直在繼續
走啊走。

1696
01:13:23,442 --> 01:13:24,530
[相機喀嚓聲、呼呼聲]

1697
01:13:24,574 --> 01:13:26,967
但從我所聽到的一切來看

1698
01:13:27,011 --> 01:13:30,362
如果我必須猜是什麼
在焦慮山頂上，

1699
01:13:30,406 --> 01:13:34,192
就是這五位CEO
從這五家公司來看，

1700
01:13:34,235 --> 01:13:37,630
誰有點像
此時此刻的奧本海默。

1701
01:13:37,674 --> 01:13:39,458
這些都是傢伙
誰正在建造這個東西。

1702
01:13:39,502 --> 01:13:40,807
是的。

1703
01:13:40,851 --> 01:13:44,158
例如，有計劃嗎？

1704
01:13:44,202 --> 01:13:46,422
公司負責人
這使得 ChatGPT

1705
01:13:46,465 --> 01:13:49,947
警告可能的
對世界造成重大危害。

1706
01:13:49,990 --> 01:13:52,384
我想，如果這項技術
出錯了，

1707
01:13:52,428 --> 01:13:53,472
它可能會出錯。

1708
01:13:53,516 --> 01:13:55,779
[爆發出明顯的喋喋不休]

1709
01:13:55,822 --> 01:13:57,781
丹尼爾：
五個傢伙。

1710
01:13:57,824 --> 01:14:01,567
我-我從來沒有想過我們
作為一家社交媒體公司。

1711
01:14:01,611 --> 01:14:06,050
這-感覺我必須嘗試一下
然後-然後找這些人...

1712
01:14:06,093 --> 01:14:07,181
嗯嗯。

1713
01:14:07,225 --> 01:14:09,009
……然後讓它們出現在電影中。

1714
01:14:10,315 --> 01:14:12,622
我們當然會得到
從中可以得到一些清楚的認識。

1715
01:14:13,666 --> 01:14:14,928
[相機喀嚓聲、呼呼聲]

1716
01:14:16,582 --> 01:14:19,150
我的意思是，責任必須停止
某處，對嗎？

1717
01:14:19,193 --> 01:14:21,152
[風呼嘯]

1718
01:14:21,195 --> 01:14:22,936
♪ ♪

1719
01:14:23,981 --> 01:14:25,896
[工具發出呼呼聲和咔嗒聲]

1720
01:14:27,071 --> 01:14:29,116
[呼嘯]

1721
01:14:34,034 --> 01:14:35,296
丹尼爾：
那種感覺怎麼樣？

1722
01:14:35,340 --> 01:14:37,690
-偉大的。
-這樣可以嗎？

1723
01:14:37,734 --> 01:14:39,431
-是的。
-[船員們模糊的交談聲]

1724
01:14:39,475 --> 01:14:40,998
-我可以把座位往前移嗎？
-丹尼爾：是的，你可以。

1725
01:14:41,041 --> 01:14:42,173
這就是，呃，這只是
有點尷尬。

1726
01:14:42,216 --> 01:14:43,566
我有點像...

1727
01:14:43,609 --> 01:14:45,045
達裡奧，你感覺如何
關於那張椅子？

1728
01:14:45,089 --> 01:14:47,004
嗯，是的，椅子很好。

1729
01:14:47,047 --> 01:14:48,832
-我只是想移動它
向前一點。 -好的。

1730
01:14:48,875 --> 01:14:50,529
我選了那張椅子。

1731
01:14:50,573 --> 01:14:52,139
- 這是一張好椅子。
-謝謝。

1732
01:14:52,183 --> 01:14:53,619
[手機鈴聲]

1733
01:14:57,884 --> 01:14:59,495
泰德：
然後就坐在那裡。

1734
01:15:01,409 --> 01:15:03,063
然後經過這裡，

1735
01:15:03,107 --> 01:15:04,369
我們會看著對方
透過這塊玻璃。

1736
01:15:04,412 --> 01:15:06,458
[忙音提示音]

1737
01:15:11,419 --> 01:15:13,552
然後坐回椅子上，
向前傾斜？

1738
01:15:13,596 --> 01:15:15,119
-丹尼爾：是的。好吧，無論怎樣
舒服，我想。 -好的。

1739
01:15:15,162 --> 01:15:16,686
這有點酷。
那裡有一堆鏡子。

1740
01:15:16,729 --> 01:15:17,817
-這樣嗎--好吧。
- 女士：Sam A.，拿一個。標記。

1741
01:15:17,861 --> 01:15:19,515
-怎麼樣？
-好的。謝謝。

1742
01:15:19,558 --> 01:15:21,038
丹尼爾：起源
這個專案的重點是我

1743
01:15:21,081 --> 01:15:22,822
坐在家裡，
我正在玩，

1744
01:15:22,866 --> 01:15:24,389
我想，你的圖像生成器，

1745
01:15:24,432 --> 01:15:27,261
而我同時，
呃，嚇壞了

1746
01:15:27,305 --> 01:15:29,437
- 真的印象深刻。
-[輕笑]

1747
01:15:29,481 --> 01:15:31,875
- 這是通常的組合。
-然後切到

1748
01:15:31,918 --> 01:15:34,617
我和我的妻子發現
我們期待著。

1749
01:15:34,660 --> 01:15:38,272
而且-而且我，就像，有
存在危機

1750
01:15:38,316 --> 01:15:40,231
就像我妻子一樣
懷孕六個月。

1751
01:15:40,274 --> 01:15:42,929
我認為我的第一個問題是
我問大家：

1752
01:15:42,973 --> 01:15:45,453
現在是一個可怕的時刻
想要一個孩子嗎？

1753
01:15:45,497 --> 01:15:47,368
我犯了一個大錯誤嗎？

1754
01:15:47,412 --> 01:15:49,022
我在等一個孩子
三月也是。我的第一個。

1755
01:15:49,066 --> 01:15:50,502
-你在等一個孩子嗎？
-是的。

1756
01:15:50,546 --> 01:15:51,808
-你預計三月嗎？
-第一個孩子。

1757
01:15:51,851 --> 01:15:53,287
-馬澤爾托夫。
-非常感謝。

1758
01:15:53,331 --> 01:15:54,462
我從來沒有這麼興奮過
對於任何事情。

1759
01:15:54,506 --> 01:15:56,464
-這就是我的感覺。
-是的。

1760
01:15:56,508 --> 01:15:58,205
但你不害怕嗎？

1761
01:15:58,249 --> 01:16:02,732
我的意思是，就像，有一個孩子是
只是這件重大的事情

1762
01:16:02,775 --> 01:16:04,995
我，你知道，
我每天晚上都熬夜，就像

1763
01:16:05,038 --> 01:16:06,823
閱讀這些關於
如何撫養孩子，

1764
01:16:06,866 --> 01:16:08,215
我希望
我一定會做好事的

1765
01:16:08,259 --> 01:16:09,260
感覺
非常壓倒性的並且——

1766
01:16:09,303 --> 01:16:12,045
但我並不害怕...

1767
01:16:12,089 --> 01:16:14,047
為了孩子的成長
在人工智慧的世界裡。

1768
01:16:14,091 --> 01:16:16,310
就像，那是……沒關係。

1769
01:16:16,354 --> 01:16:19,009
很高興聽到
來自那個傢伙。

1770
01:16:19,052 --> 01:16:20,750
我認為這是個好主意
生孩子。

1771
01:16:20,793 --> 01:16:23,230
我-我認為他們是最
神奇的、不可思議的事。

1772
01:16:23,274 --> 01:16:25,276
-[重重嘆氣]
——有太多的不確定性，

1773
01:16:25,319 --> 01:16:26,843
我幾乎會這樣做
無論如何你要做什麼。

1774
01:16:26,886 --> 01:16:28,932
我知道那不是
非常滿意的答复，

1775
01:16:28,975 --> 01:16:31,891
但這是唯一的一個
我能想出。

1776
01:16:31,935 --> 01:16:34,459
我們的孩子永遠不會...

1777
01:16:34,502 --> 01:16:37,070
知道一個沒有的世界
真正先進的人工智慧。

1778
01:16:37,114 --> 01:16:39,856
事實上，我們的孩子永遠不會
比人工智慧更聰明。

1779
01:16:39,899 --> 01:16:42,075
丹尼爾：「我們的孩子會
永遠不會比人工智慧更聰明」？

1780
01:16:42,119 --> 01:16:44,338
嗯，從原始的角度來看，
從原始智商的角度來看，

1781
01:16:44,382 --> 01:16:46,253
他們永遠不會
比人工智慧更聰明。

1782
01:16:46,297 --> 01:16:48,038
這個觀念不
讓你有點不安嗎？

1783
01:16:48,081 --> 01:16:51,128
因為這讓我感覺
有點奇怪地感到噁心。

1784
01:16:51,171 --> 01:16:54,784
嗯，這確實讓我感到不安
一點點。

1785
01:16:54,827 --> 01:16:56,263
但這是現實。

1786
01:16:56,307 --> 01:16:58,265
丹尼爾：
好的，所以比賽動態。

1787
01:16:58,309 --> 01:17:01,007
我們有一群人
誰都同意

1788
01:17:01,051 --> 01:17:02,879
這很可怕。

1789
01:17:02,922 --> 01:17:04,750
根據時間表
很多人給了我，

1790
01:17:04,794 --> 01:17:07,013
我們有兩個月的時間
五年的時間來解決這個問題。

1791
01:17:07,057 --> 01:17:08,667
-是的。
-而且-而且，我猜，

1792
01:17:08,711 --> 01:17:12,845
我最大的問題是：
為什麼我們不能停下來？

1793
01:17:14,499 --> 01:17:19,069
問題是，呃呃，
「只是停下來」就是，嗯，

1794
01:17:19,112 --> 01:17:22,202
現在有很多很多團體
世界各地啊啊啊

1795
01:17:22,246 --> 01:17:25,684
建構這個，為了
許多國家、許多公司、

1796
01:17:25,728 --> 01:17:28,121
嗯，全部與
不同的動機。

1797
01:17:28,165 --> 01:17:30,776
有一些
這個領域的這些公司

1798
01:17:30,820 --> 01:17:33,997
他們的立場是誰，「我們想要
開發這項技術

1799
01:17:34,040 --> 01:17:36,042
絕對盡可能快。 」

1800
01:17:36,086 --> 01:17:40,046
即使我們可以通過法律
在美國和歐洲，

1801
01:17:40,090 --> 01:17:42,396
我們需要說服...

1802
01:17:42,440 --> 01:17:44,964
習近平和弗拉基米爾·普丁
或者，你知道，

1803
01:17:45,008 --> 01:17:47,445
無論誰的科學
顧問站在他們這一邊。

1804
01:17:47,488 --> 01:17:49,229
那真的會很難。

1805
01:17:49,273 --> 01:17:50,927
我認為這是真的

1806
01:17:50,970 --> 01:17:53,581
如果兩個人
在完全相同的地方，

1807
01:17:53,625 --> 01:17:55,888
呃，願意接受的人
更多安全捷徑

1808
01:17:55,932 --> 01:17:58,064
應該有點
“先到那裡。”

1809
01:17:58,108 --> 01:18:01,067
呃，但是...

1810
01:18:01,111 --> 01:18:02,939
我們能夠利用我們的領先優勢

1811
01:18:02,982 --> 01:18:05,985
花費更多的時間
進行安全測試。

1812
01:18:06,029 --> 01:18:07,987
丹尼爾：
還有──如果你丟了怎麼辦？

1813
01:18:08,031 --> 01:18:09,597
你接到電話
你發現

1814
01:18:09,641 --> 01:18:11,687
比如說你現在
落後六個月。

1815
01:18:11,730 --> 01:18:14,254
-什-然後會發生什麼事？
-取決於我們落後於誰。

1816
01:18:14,298 --> 01:18:16,822
如果是的話，例如
敵對政府，

1817
01:18:16,866 --> 01:18:18,824
這可能真的很糟糕。

1818
01:18:18,868 --> 01:18:21,348
假設您接到電話
中國有一個，

1819
01:18:21,392 --> 01:18:24,787
有一個遞歸的
自我提升劑

1820
01:18:24,830 --> 01:18:27,180
或類似的東西我們
應該真正擔心。

1821
01:18:27,224 --> 01:18:29,226
發生了什麼事？

1822
01:18:30,967 --> 01:18:32,403
嗯...

1823
01:18:35,406 --> 01:18:37,234
這種情況需要...

1824
01:18:37,277 --> 01:18:40,672
第一步將會是
與美國政府交談。

1825
01:18:40,716 --> 01:18:42,935
山姆，你相信嗎？
政府處理能力

1826
01:18:42,979 --> 01:18:44,676
像這樣的東西？

1827
01:18:45,895 --> 01:18:47,766
是的，實際上我願意。

1828
01:18:47,810 --> 01:18:49,550
還有其他事情我不知道
相信政府能夠處理，

1829
01:18:49,594 --> 01:18:51,161
但那個特定的場景，
我想他們會知道...

1830
01:18:51,204 --> 01:18:52,771
他們-他們--是的。

1831
01:18:52,815 --> 01:18:54,425
丹尼爾：當你有的時候，
喜歡，私人討論

1832
01:18:54,468 --> 01:18:56,383
和其他人一起
手指放在扳機上，

1833
01:18:56,427 --> 01:18:59,604
可以這麼說，嗯，
進行那些私人討論

1834
01:18:59,647 --> 01:19:01,301
讓你充滿信心

1835
01:19:01,345 --> 01:19:03,347
或者他們讓你，
呃，更著急了？

1836
01:19:03,390 --> 01:19:07,090
聽著，我是說，我-我知道一些
他們比其他人更好。

1837
01:19:07,133 --> 01:19:10,136
嗯，我更有信心了
其中一些比我有

1838
01:19:10,180 --> 01:19:12,356
在其他方面，你知道，
與任何人一樣。

1839
01:19:12,399 --> 01:19:14,140
你知道，
你想想，你知道，

1840
01:19:14,184 --> 01:19:15,838
你高中的孩子們
類什麼的，對吧？

1841
01:19:15,881 --> 01:19:18,275
你知道，其中一些是
你知道，真的很甜蜜。

1842
01:19:18,318 --> 01:19:20,407
其中有些是善意的
但沒那麼有效。

1843
01:19:20,451 --> 01:19:22,366
其中一些是，
你知道，惡霸們。

1844
01:19:22,409 --> 01:19:23,759
其中一些是
真是壞人。

1845
01:19:23,802 --> 01:19:25,673
[結巴]
你——你真的有點，

1846
01:19:25,717 --> 01:19:27,066
你真的看到了傳播。

1847
01:19:27,110 --> 01:19:28,807
你知道嗎，我是嗎？
我有信心嗎

1848
01:19:28,851 --> 01:19:30,548
每個人都會做的
正確的事，

1849
01:19:30,591 --> 01:19:32,028
一切都會順利嗎？

1850
01:19:32,071 --> 01:19:33,856
嗯，不，我不是。

1851
01:19:33,899 --> 01:19:35,509
還有——什麼也沒有
我可以做到這一點，對嗎？

1852
01:19:35,553 --> 01:19:37,773
你知道，我能做的一切
is-is 推動，

1853
01:19:37,816 --> 01:19:39,165
推動，你知道，

1854
01:19:39,209 --> 01:19:40,776
推動政府
參與其中。

1855
01:19:40,819 --> 01:19:42,647
但最終我只是
那裡也有一個人。

1856
01:19:42,690 --> 01:19:44,127
那是——
這取決於我們所有人

1857
01:19:44,170 --> 01:19:46,042
推動政府
參與其中。

1858
01:19:46,085 --> 01:19:48,479
這是第一件事
那-那我認為我們需要做

1859
01:19:48,522 --> 01:19:50,916
to-to，你知道，設定事物
朝著正確的方向。

1860
01:19:50,960 --> 01:19:52,744
是什麼讓我焦慮
關於那個，就像，

1861
01:19:52,788 --> 01:19:56,182
的基本現實是
該技術的速度

1862
01:19:56,226 --> 01:19:58,402
正在增殖和成長
是指數的，

1863
01:19:58,445 --> 01:20:01,448
以及立法機制
已經300歲了，

1864
01:20:01,492 --> 01:20:02,928
-永遠。
-是的。

1865
01:20:02,972 --> 01:20:05,104
嗯，我-我想
這將是一個沉重的負擔。

1866
01:20:05,148 --> 01:20:06,889
我-我絕對同意
與你一起。

1867
01:20:06,932 --> 01:20:08,891
丹尼爾：你知道，
我真正在尋找什麼

1868
01:20:08,934 --> 01:20:11,241
是-就像，
「這裡有一些步驟，例如，

1869
01:20:11,284 --> 01:20:15,158
「頭兒們會
take to-注重安全，

1870
01:20:15,201 --> 01:20:18,117
以減輕危險
並最大化承諾。 」

1871
01:20:18,161 --> 01:20:20,119
而我不，
我不知道，我不知道

1872
01:20:20,163 --> 01:20:21,817
那裡有
對此的簡單回答。

1873
01:20:21,860 --> 01:20:23,296
嗯...

1874
01:20:25,951 --> 01:20:27,561
我的意思是，這也許是
太簡單了，

1875
01:20:27,605 --> 01:20:30,173
但你...

1876
01:20:30,216 --> 01:20:31,957
建立一個新模型，

1877
01:20:32,001 --> 01:20:34,786
你研究並測試它
非常仔細。

1878
01:20:34,830 --> 01:20:37,223
你把它拿出來
逐漸走進這個世界，

1879
01:20:37,267 --> 01:20:39,530
然後，越來越多，
你明白

1880
01:20:39,573 --> 01:20:41,227
不管安全與否
然後如果是的話

1881
01:20:41,271 --> 01:20:42,707
您可以進行下一步。

1882
01:20:44,404 --> 01:20:47,103
聽起來沒那麼華而不實
就像一位傑出的科學家

1883
01:20:47,146 --> 01:20:50,454
提出一個想法
實驗室製作人工智慧系統，例如，

1884
01:20:50,497 --> 01:20:53,979
完全安全可控
以及其他一切，

1885
01:20:54,023 --> 01:20:55,720
但這就是我所相信的
將會發生。

1886
01:20:55,763 --> 01:20:57,287
就像，這就是方式
我認為這有效。

1887
01:20:57,330 --> 01:20:59,289
但我們只能說
可怕的事情發生了

1888
01:20:59,332 --> 01:21:01,813
就像模特兒鬆開一樣
或是變得流氓什麼的。

1889
01:21:01,857 --> 01:21:03,467
有協議嗎？

1890
01:21:03,510 --> 01:21:05,817
就像，從字面上看，
我想著一部紅色手機。

1891
01:21:05,861 --> 01:21:07,123
-是的。
-抱歉想到這個

1892
01:21:07,166 --> 01:21:08,515
就電影而言，但是，就像...

1893
01:21:08,559 --> 01:21:09,995
有一個協議。

1894
01:21:10,039 --> 01:21:11,475
- 有紅色手機嗎
在你的桌子上嗎？ -不。

1895
01:21:11,518 --> 01:21:13,216
[笑]：
這是一個秘密嗎？

1896
01:21:13,259 --> 01:21:15,392
我的意思是，呃，不，不是，
它並不那麼奇特或戲劇性

1897
01:21:15,435 --> 01:21:17,176
正如你所希望的那樣，
但有，比如，你知道——

1898
01:21:17,220 --> 01:21:18,874
我們已經想通了
這些場景，

1899
01:21:18,917 --> 01:21:20,527
如果發生這種情況
我們要打電話給這些人

1900
01:21:20,571 --> 01:21:21,964
按此順序並執行此操作

1901
01:21:22,007 --> 01:21:23,443
和種類
這些決定如果—

1902
01:21:23,487 --> 01:21:26,055
我確實相信
當你有機會的時候

1903
01:21:26,098 --> 01:21:29,058
之前先思考一下
發生緊張的情況，

1904
01:21:29,101 --> 01:21:30,407
這幾乎總是
好主意。

1905
01:21:30,450 --> 01:21:31,756
把它寫下來很有幫助。

1906
01:21:31,799 --> 01:21:33,279
- 做好準備很有幫助。
-是的。

1907
01:21:34,324 --> 01:21:36,021
[嘆氣]你...

1908
01:21:36,065 --> 01:21:38,763
這是不可能的
讓我坐在你對面

1909
01:21:38,806 --> 01:21:41,157
並且-並要求你答應我
這樣會順利嗎？

1910
01:21:41,200 --> 01:21:43,855
那是不可能的。

1911
01:21:43,899 --> 01:21:45,683
沒有任何簡單的答案，
不幸的是。

1912
01:21:45,726 --> 01:21:48,077
呃，因為是這樣的
尖端技術，

1913
01:21:48,120 --> 01:21:49,774
嗯，還有
很多未知數。

1914
01:21:49,817 --> 01:21:52,255
我認為
那-那需要是，

1915
01:21:52,298 --> 01:21:55,040
嗯，呃，你知道，明白了

1916
01:21:55,084 --> 01:21:58,957
並且-因此需要
呃，呃，需要謹慎一點。

1917
01:21:59,001 --> 01:22:00,872
我每天醒來，你知道，

1918
01:22:00,916 --> 01:22:03,440
這是，這是
我想到的第一件事。

1919
01:22:03,483 --> 01:22:05,137
現在，看，我是人類，

1920
01:22:05,181 --> 01:22:08,358
而且，你知道，有-有
每一個決定都是完美的嗎？

1921
01:22:08,401 --> 01:22:11,622
我能說出我的動機嗎
總是很清楚嗎？

1922
01:22:11,665 --> 01:22:13,537
當然不是。
沒有人能這麼說。

1923
01:22:13,580 --> 01:22:16,366
就像，那是——那是
只是不是，就像，你知道——

1924
01:22:16,409 --> 01:22:18,629
那是-那不是
人們如何工作。

1925
01:22:18,672 --> 01:22:21,023
科學史
往往是這樣的，

1926
01:22:21,066 --> 01:22:23,547
無論好壞，
如果有什麼可以做的話——

1927
01:22:23,590 --> 01:22:26,985
我們現在知道人工智慧是可能的
人類做到了。

1928
01:22:27,029 --> 01:22:29,727
所有這一切
曾經——將會發生。

1929
01:22:29,770 --> 01:22:32,295
這這列火車
不會停止。

1930
01:22:32,338 --> 01:22:34,253
你不能走到前面
火車並停下來。

1931
01:22:34,297 --> 01:22:36,255
你只會被壓扁。

1932
01:22:36,299 --> 01:22:38,388
奧特曼：
我的意思是，壓力很大。

1933
01:22:39,606 --> 01:22:41,043
你知道，有，比如，

1934
01:22:41,086 --> 01:22:42,653
很多事情
我們很多人都不知道。

1935
01:22:42,696 --> 01:22:46,352
我認為歷史
科學發現的意義在於

1936
01:22:46,396 --> 01:22:48,267
不知道之一
你不知道什麼

1937
01:22:48,311 --> 01:22:49,660
並邊走邊弄清楚。

1938
01:22:49,703 --> 01:22:52,968
呃，但是，是的，這是一個...

1939
01:22:53,011 --> 01:22:56,580
這是一種充滿壓力的生活方式。

1940
01:22:56,623 --> 01:22:58,756
丹尼爾：對。山姆，謝謝你
非常感謝這樣做。

1941
01:22:58,799 --> 01:23:00,497
-再說一遍，馬澤爾·托夫。
-謝謝。還有你。

1942
01:23:00,540 --> 01:23:02,673
太感謝了。謝謝，夥計們。

1943
01:23:02,716 --> 01:23:05,458
♪ ♪

1944
01:23:07,678 --> 01:23:08,984
[嘆氣]

1945
01:23:10,986 --> 01:23:13,162
[電力劈啪聲]

1946
01:23:13,205 --> 01:23:15,599
-[雷霆裂縫]
-[嘶嘶聲，咕嚕聲]

1947
01:23:42,626 --> 01:23:44,628
-[錄影機點擊聲]
-[線路鈴聲]

1948
01:23:47,848 --> 01:23:49,285
-[線路點擊]
-凱文·羅爾：你好。

1949
01:23:49,328 --> 01:23:50,547
丹尼爾：
嘿，爸爸，你好嗎？

1950
01:23:50,590 --> 01:23:51,591
凱文：
很好。你好嗎？

1951
01:23:51,635 --> 01:23:53,071
你工作嗎？你要做什麼？

1952
01:23:53,115 --> 01:23:55,247
丹尼爾：
我正在製作這部人工智慧電影。

1953
01:23:55,291 --> 01:23:57,815
凱文：
進展如何？

1954
01:23:57,858 --> 01:24:00,426
丹尼爾：
你知道嗎，這……這真的是……

1955
01:24:00,470 --> 01:24:02,167
-喬安妮·羅爾：嗨，親愛的。
-丹尼爾：嗨，媽媽。

1956
01:24:02,211 --> 01:24:03,864
喬安妮：那是什麼？
電影的前提？

1957
01:24:03,908 --> 01:24:06,519
這是一部紀錄片嗎？
凱文，別再用香料了。

1958
01:24:06,563 --> 01:24:08,304
已經太辣了。

1959
01:24:08,347 --> 01:24:10,436
我們現在正在做雞肉。

1960
01:24:10,480 --> 01:24:12,612
- 這是紀錄片還是什麼...
-丹尼爾：這是關於--

1961
01:24:12,656 --> 01:24:13,961
這部電影是關於
世界末日。

1962
01:24:14,005 --> 01:24:15,789
世界末日即將來臨，

1963
01:24:15,833 --> 01:24:17,574
我們正在拍電影
關於世界末日。

1964
01:24:17,617 --> 01:24:19,837
-喬安妮：真的嗎？
-丹尼爾：是的。

1965
01:24:19,880 --> 01:24:21,578
凱文：有點令人沮喪
電影，聽起來像。

1966
01:24:21,621 --> 01:24:23,449
喬安妮：
是的。

1967
01:24:23,493 --> 01:24:28,976
丹尼爾：我感覺很多，
就像這種非常嚴重的焦慮。

1968
01:24:29,020 --> 01:24:31,370
喬安妮：太可怕了
但一定有——

1969
01:24:31,414 --> 01:24:35,287
你知道嗎，你們見面了嗎
一些超級聰明的人

1970
01:24:35,331 --> 01:24:37,768
那些能給你任何答案嗎？

1971
01:24:37,811 --> 01:24:39,465
丹尼爾：就是這樣
對此感到沮喪。

1972
01:24:39,509 --> 01:24:41,337
沒有人知道。

1973
01:24:41,380 --> 01:24:43,904
喬安妮：
我只能說

1974
01:24:43,948 --> 01:24:49,867
每一代都有過
像這樣可怕的東西。

1975
01:24:49,910 --> 01:24:52,217
凱文：當我出生時，
古巴飛彈危機。

1976
01:24:52,261 --> 01:24:54,263
[心跳平穩]

1977
01:24:54,306 --> 01:24:56,352
我只是害怕那裡
這將是一場核戰。

1978
01:24:56,395 --> 01:24:57,744
喬安妮：
是的，但我們不知道

1979
01:24:57,788 --> 01:24:59,094
他們要做什麼以及...

1980
01:24:59,137 --> 01:25:00,530
凱文：
世界並沒有終結。

1981
01:25:00,573 --> 01:25:01,618
大家都醒了
第二天早上，

1982
01:25:01,661 --> 01:25:03,402
我們仍在做我們的事情。

1983
01:25:03,446 --> 01:25:04,969
丹尼爾：
我很害怕，

1984
01:25:05,012 --> 01:25:06,840
特別是在
的上下文，例如，

1985
01:25:06,884 --> 01:25:09,147
-你知道，寶寶和...
-[胎兒心跳搏動]

1986
01:25:09,191 --> 01:25:10,540
凱文：
這將是一個學習曲線。

1987
01:25:10,583 --> 01:25:12,063
喬安妮：
你會沒事的。

1988
01:25:12,107 --> 01:25:13,064
凱文：你不能，
你不能想

1989
01:25:13,108 --> 01:25:14,326
你無法控制的事情，丹尼爾。

1990
01:25:14,370 --> 01:25:16,154
只要記住這一點。

1991
01:25:16,198 --> 01:25:17,677
丹尼爾（聲音中斷）：
我真的，我真的感覺

1992
01:25:17,721 --> 01:25:19,201
對此感到緊張和害怕。

1993
01:25:19,244 --> 01:25:21,028
有這麼多
我無法控制。

1994
01:25:21,072 --> 01:25:23,857
凱文：別緊張。
你不能讓它影響你。

1995
01:25:23,901 --> 01:25:26,251
你只能控制
你能控制的，

1996
01:25:26,295 --> 01:25:27,905
這就是你所能做的。

1997
01:25:27,948 --> 01:25:30,603
你不能做更多的事情。

1998
01:25:30,647 --> 01:25:32,649
把它寫在你的書裡。

1999
01:25:35,347 --> 01:25:36,870
♪ ♪

2000
01:25:44,095 --> 01:25:46,663
【胎心搏動】

2001
01:25:46,706 --> 01:25:49,231
[嚎叫]

2002
01:25:49,274 --> 01:25:51,581
卡洛琳：
當你回頭看時，

2003
01:25:51,624 --> 01:25:54,453
世界總是有終結的。

2004
01:25:54,497 --> 01:25:56,803
當你展望未來時，

2005
01:25:56,847 --> 01:25:59,241
世界總是有終結的。

2006
01:25:59,284 --> 01:26:02,157
……著火。
一棟房子已經著火了…

2007
01:26:02,200 --> 01:26:05,377
卡洛琳：但是這個世界
也總是在開始。

2008
01:26:07,988 --> 01:26:09,947
丹尼爾：
你準備好了嗎？

2009
01:26:09,990 --> 01:26:11,992
你真的準備好了嗎？

2010
01:26:15,909 --> 01:26:17,650
丹尼爾：你想開車
還是你想讓我開車？

2011
01:26:17,694 --> 01:26:18,782
卡洛琳：
你開車。

2012
01:26:20,479 --> 01:26:21,828
-[女人說話含糊不清]
-卡洛琳：好的。

2013
01:26:21,872 --> 01:26:23,700
丹尼爾：
謝謝你，瑪麗亞。

2014
01:26:23,743 --> 01:26:26,268
女：這只是
感覺真的很抽筋。

2015
01:26:26,311 --> 01:26:27,791
-卡洛琳：好的。
- 女人：你準備好了嗎？

2016
01:26:27,834 --> 01:26:29,053
-卡洛琳：是的。
-[含糊不清的喋喋不休]

2017
01:26:29,096 --> 01:26:30,924
[卡洛琳重重地嘆了口氣]

2018
01:26:30,968 --> 01:26:32,404
女：你可能處於一個
醫療劇與這一切......

2019
01:26:33,840 --> 01:26:35,842
♪ ♪

2020
01:26:44,329 --> 01:26:45,896
-[靜態爆裂聲]
-[含糊不清的喋喋不休]

2021
01:26:49,116 --> 01:26:51,075
女人：
……有些壓力。

2022
01:26:52,685 --> 01:26:54,078
放鬆點。

2023
01:26:56,907 --> 01:26:59,214
-[嬰兒哭聲]
-[裝置蜂鳴聲]

2024
01:27:02,129 --> 01:27:04,915
丹尼爾：
嗨，夥計。哦。

2025
01:27:04,958 --> 01:27:06,438
嗨，夥計。

2026
01:27:06,482 --> 01:27:08,484
♪ ♪

2027
01:27:31,202 --> 01:27:33,683
凱文：
這將會是一個全新的世界

2028
01:27:33,726 --> 01:27:35,032
為了你，丹尼爾。

2029
01:27:37,208 --> 01:27:40,080
我想你會的
一位了不起的父親。

2030
01:27:41,517 --> 01:27:44,346
喬安妮[輕笑]：
這是肯定的。

2031
01:27:44,389 --> 01:27:46,609
-[凱文哭泣]
-哦。

2032
01:27:46,652 --> 01:27:48,654
[哭泣繼續]

2033
01:27:48,698 --> 01:27:50,787
凱文：
你會做得很好的。

2034
01:27:51,788 --> 01:27:53,050
喬安妮：
凱夫，你為什麼哭？

2035
01:27:53,093 --> 01:27:54,617
凱文：
我哭是因為...

2036
01:27:54,660 --> 01:27:57,054
我不知道。我只是不...

2037
01:27:57,097 --> 01:27:59,317
丹尼爾：爸爸，你會
讓我也哭了

2038
01:27:59,361 --> 01:28:00,710
為什麼哭？

2039
01:28:03,190 --> 01:28:05,497
凱文：我只知道
你會成為一個了不起的爸爸。

2040
01:28:05,541 --> 01:28:07,107
丹尼爾[哭]：
我只會成為一個偉大的父親

2041
01:28:07,151 --> 01:28:09,675
因為我有一個偉大的父親。

2042
01:28:09,719 --> 01:28:12,287
凱文：我變得情緒化，
僅此而已。

2043
01:28:12,330 --> 01:28:13,679
喬安妮：
噢。

2044
01:28:13,723 --> 01:28:14,898
[影片中有趣的閒聊]

2045
01:28:14,941 --> 01:28:16,552
[透過視訊]：
男孩，哦，男孩！

2046
01:28:16,595 --> 01:28:17,857
天哪！

2047
01:28:18,902 --> 01:28:20,817
看看那些小臉蛋。

2048
01:28:20,860 --> 01:28:24,777
看看那些小臉蛋。
看看那些小臉蛋。

2049
01:28:24,821 --> 01:28:26,344
是的。

2050
01:28:26,388 --> 01:28:28,433
丹尼爾：
我知道如何結束這部電影。

2051
01:28:29,478 --> 01:28:32,263
寶貝們。

2052
01:28:32,307 --> 01:28:35,266
- 電影的結尾是關於
寶貝們。 -[透過影片喋喋不休]

2053
01:28:35,310 --> 01:28:37,094
他們是對生命的肯定。

2054
01:28:37,137 --> 01:28:38,922
他們很累。

2055
01:28:38,965 --> 01:28:40,793
-[寶寶笑]
-他們很搞笑。

2056
01:28:40,837 --> 01:28:42,665
他們是值得的。

2057
01:28:42,708 --> 01:28:46,451
這部電影不是關於
科技的內部運作。

2058
01:28:46,495 --> 01:28:48,235
這不是關於
億萬富翁執行長。

2059
01:28:48,279 --> 01:28:50,194
這與地緣政治無關。

2060
01:28:50,237 --> 01:28:53,589
這不是關於可怕的事情
未來或世界末日，

2061
01:28:53,632 --> 01:28:55,678
因為我的世界
才剛開始。

2062
01:28:55,721 --> 01:28:57,375
我正在建造一個嬰兒床。

2063
01:28:57,419 --> 01:28:59,290
就在這裡，就是現在。

2064
01:28:59,334 --> 01:29:00,465
[嬰兒咕咕聲]

2065
01:29:00,509 --> 01:29:02,337
人工智慧將改變一切

2066
01:29:02,380 --> 01:29:05,601
以過於強大和
複雜到我們難以理解。

2067
01:29:05,644 --> 01:29:08,952
而未來並不是
由我們任何人來決定。

2068
01:29:10,736 --> 01:29:13,609
但我能決定的是
最好的丈夫

2069
01:29:13,652 --> 01:29:17,700
為了我的妻子和最好的
我兒子的可能爸爸。

2070
01:29:17,743 --> 01:29:21,399
那麼我們的人工智慧未來是否是
惡夢般的反烏托邦

2071
01:29:21,443 --> 01:29:23,836
或烏托邦
我們都夢想的，

2072
01:29:23,880 --> 01:29:26,883
我至少會知道
我已盡我所能

2073
01:29:26,926 --> 01:29:30,103
指導我的家人
透過這場人工智慧革命。

2074
01:29:30,147 --> 01:29:33,846
而且無論如何，
我們將一起面對它。

2075
01:29:33,890 --> 01:29:35,195
[振奮人心的音樂響起]

2076
01:29:35,239 --> 01:29:36,806
[音樂突然停止]

2077
01:29:36,849 --> 01:29:40,505
丹尼爾：
這只是我們的第一個想法。

2078
01:29:40,549 --> 01:29:42,812
這感覺如何？
你有這種感覺嗎？

2079
01:29:42,855 --> 01:29:45,249
等等，我——就像，這不是——
這是一個笑話。

2080
01:29:45,292 --> 01:29:47,425
其實不是
你將如何結束它。

2081
01:29:50,036 --> 01:29:52,648
我的意思是，這只是一個想法。好的？

2082
01:29:52,691 --> 01:29:54,389
不，丹尼爾。

2083
01:29:54,432 --> 01:29:56,129
……呃，非常非常愚蠢。

2084
01:29:56,173 --> 01:29:58,915
你剛剛花了，我沒有
知道，比如，幾年

2085
01:29:58,958 --> 01:30:02,571
我們一生致力於此，
與每位領先專家交談

2086
01:30:02,614 --> 01:30:04,964
在這個星球上關於這個主題，

2087
01:30:05,008 --> 01:30:07,663
你會結束它

2088
01:30:07,706 --> 01:30:10,796
與一些，比如，
昆巴亞廢話？

2089
01:30:10,840 --> 01:30:13,495
有一顆小行星
前往地球。

2090
01:30:13,538 --> 01:30:15,497
你做什麼工作？只是...

2091
01:30:15,540 --> 01:30:17,629
牽手
並希望一切順利？

2092
01:30:17,673 --> 01:30:19,414
絕對不是。

2093
01:30:19,457 --> 01:30:22,286
我們必須——它哈——
它必須是...

2094
01:30:22,329 --> 01:30:24,419
結局不得不...

2095
01:30:25,855 --> 01:30:27,900
卡洛琳：
好的，第一件事：

2096
01:30:27,944 --> 01:30:31,426
人工智慧來了，
它會一直存在。

2097
01:30:31,469 --> 01:30:32,905
屎已經從馬裡出來了

2098
01:30:32,949 --> 01:30:35,430
但馬是
會繼續拉屎

2099
01:30:38,171 --> 01:30:39,651
[人群歡呼]

2100
01:30:39,695 --> 01:30:41,566
你知道，基本的條件之一
歷史規律

2101
01:30:41,610 --> 01:30:44,003
沒什麼
真的有一個開始

2102
01:30:44,047 --> 01:30:45,962
一切都沒有結局。

2103
01:30:46,005 --> 01:30:47,703
它就這樣繼續下去。

2104
01:30:47,746 --> 01:30:50,532
人工智慧離我們還很遙遠
其全面發展。

2105
01:30:50,575 --> 01:30:52,795
卡洛琳：即使
當前的人工智慧泡沫破裂，

2106
01:30:52,838 --> 01:30:54,579
-人類永遠不會停止
-[噪音發生器吹響]

2107
01:30:54,623 --> 01:30:57,539
建設越來越多
強大的技術。

2108
01:30:57,582 --> 01:30:59,410
郝：
你可以選擇不使用AI

2109
01:30:59,454 --> 01:31:02,239
或參與其中，但它是
無論如何都會影響到你。

2110
01:31:02,282 --> 01:31:04,023
丹尼爾：好的，太棒了。
所以我們完蛋了。

2111
01:31:04,067 --> 01:31:06,635
卡洛琳：不，我們不是
因為一件簡單的事。

2112
01:31:10,943 --> 01:31:12,989
這並非不可避免。

2113
01:31:13,032 --> 01:31:15,208
如果我們能看到它
明顯地在一起，

2114
01:31:15,252 --> 01:31:18,342
明顯的反應是
選擇不同的東西。

2115
01:31:18,385 --> 01:31:21,040
我們需要非常清楚
改變遊戲

2116
01:31:21,084 --> 01:31:23,129
從競賽到墊底
進入一場力爭上游的競賽。

2117
01:31:23,173 --> 01:31:27,438
LEAHY：我們需要解決的問題
解決方案並不是專門針對人工智慧的。

2118
01:31:27,482 --> 01:31:31,224
這是一般問題
我們如何建立一個社會

2119
01:31:31,268 --> 01:31:33,879
可以處理
強大的技術。

2120
01:31:33,923 --> 01:31:35,359
因為我們要得到

2121
01:31:35,402 --> 01:31:36,795
只會越來越強大
技術。

2122
01:31:36,839 --> 01:31:39,668
卡洛琳：
我們需要提升我們的社會，

2123
01:31:39,711 --> 01:31:41,496
第一步是
走到一起

2124
01:31:41,539 --> 01:31:43,367
-而且要求很高...
-全部：協調。

2125
01:31:43,410 --> 01:31:47,023
某種形式的國際
合作或協議

2126
01:31:47,066 --> 01:31:48,503
規範應該是什麼。

2127
01:31:48,546 --> 01:31:49,895
你知道，應該怎樣
他們被部署...

2128
01:31:49,939 --> 01:31:51,549
就像，真實的
國際外交

2129
01:31:51,593 --> 01:31:53,290
超級大國之中。

2130
01:31:53,333 --> 01:31:56,293
中國人也同樣擔心
身為美國人來說。

2131
01:31:56,336 --> 01:31:57,729
我覺得很難，
你知道，

2132
01:31:57,773 --> 01:31:59,514
在當前的
地緣政治氣候，

2133
01:31:59,557 --> 01:32:01,254
——但我認為這是必要的。
-拉斯金：當然。

2134
01:32:01,298 --> 01:32:04,693
以完全相同的方式
人類最後一次

2135
01:32:04,736 --> 01:32:09,611
開發了一項技術
這危險的…

2136
01:32:09,654 --> 01:32:12,396
……這需要一個完整的、
前所未有的轉變

2137
01:32:12,439 --> 01:32:15,530
我們世界的結構。

2138
01:32:15,573 --> 01:32:17,619
卡洛琳：
所以我們需要完成這個工作，

2139
01:32:17,662 --> 01:32:20,883
再次發生前所未有的轉變。

2140
01:32:20,926 --> 01:32:24,103
你知道，我們和人們交談
在這些人工智慧公司工作的人，

2141
01:32:24,147 --> 01:32:25,322
他們說他們想做
不同的東西，

2142
01:32:25,365 --> 01:32:26,628
但他們需要公眾壓力。

2143
01:32:26,671 --> 01:32:28,151
他們需要政府
做某事。

2144
01:32:28,194 --> 01:32:29,979
然後我們就去DC，
他們說，

2145
01:32:30,022 --> 01:32:31,850
「好吧，我們需要矽谷
做一些不同的事情。

2146
01:32:31,894 --> 01:32:33,635
他們是那些將要
把護欄拿出來。 」

2147
01:32:33,678 --> 01:32:35,680
所以每個人都指著
用手指指著別人，

2148
01:32:35,724 --> 01:32:39,466
他們同意的是
我們需要公眾壓力

2149
01:32:39,510 --> 01:32:41,207
為了別的事
發生。

2150
01:32:41,251 --> 01:32:42,818
這就是你

2151
01:32:42,861 --> 01:32:44,254
和所有的人
看這部電影就可以了。

2152
01:32:44,297 --> 01:32:45,298
卡洛琳：
我們需要抓住領導者

2153
01:32:45,342 --> 01:32:47,083
在我們的政府中

2154
01:32:47,126 --> 01:32:48,563
和領導人
這些公司負有責任。

2155
01:32:48,606 --> 01:32:51,000
博瑞：
無論你在哪個國家，

2156
01:32:51,043 --> 01:32:52,871
讓他們知道
你不開心

2157
01:32:52,915 --> 01:32:54,569
以目前的現狀。

2158
01:32:54,612 --> 01:32:57,093
所以，是的，說起來很無聊
打電話給你的國會議員。

2159
01:32:57,136 --> 01:32:59,356
我並不是說你應該
就這樣做，但是，就像，

2160
01:32:59,399 --> 01:33:00,923
我們確實必須這樣做。

2161
01:33:00,966 --> 01:33:02,402
就像，我們必須得到
政府參與其中。

2162
01:33:02,446 --> 01:33:03,839
丹尼爾：所以我們只是
打電話給他們說，

2163
01:33:03,882 --> 01:33:05,971
「嘿，停止大型科技公司
以免毀滅世界」？

2164
01:33:06,015 --> 01:33:08,887
卡洛琳：不，但是有
大量非常明顯的，

2165
01:33:08,931 --> 01:33:10,672
簡單的事情
我們可以要求很高。

2166
01:33:10,715 --> 01:33:12,499
我們需要透明度。

2167
01:33:12,543 --> 01:33:14,240
我們需要結束保密
存在於這些實驗室內，

2168
01:33:14,284 --> 01:33:16,634
因為他們正在建設
強大的技術，

2169
01:33:16,678 --> 01:33:18,680
公眾應該知道
發生了什麼事。

2170
01:33:18,723 --> 01:33:20,682
最終，
我們需要獨立，

2171
01:33:20,725 --> 01:33:23,249
客觀第三方
評估系統。

2172
01:33:23,293 --> 01:33:27,036
我們不能指望這些公司
給自己的作業評分。

2173
01:33:27,079 --> 01:33:31,170
如果-如果一家公司使用人工智慧並且-並且
有AI與你互動，

2174
01:33:31,214 --> 01:33:34,957
它應該透露您是
與人工智慧系統互動。

2175
01:33:35,000 --> 01:33:38,613
是的。而且-而且我們還需要
一個使公司

2176
01:33:38,656 --> 01:33:41,833
並承擔法律責任
他們生產的人工智慧系統。

2177
01:33:41,877 --> 01:33:45,750
我們需要確保有
是測試和安全標準

2178
01:33:45,794 --> 01:33:48,013
適用於每個人。

2179
01:33:48,057 --> 01:33:49,711
我們需要一些基本規則，

2180
01:33:49,754 --> 01:33:51,538
我們需要不斷適應
那些規則

2181
01:33:51,582 --> 01:33:54,585
以這樣的速度
技術不斷發展。

2182
01:33:54,629 --> 01:33:57,153
李希：目前有
更多監管

2183
01:33:57,196 --> 01:33:59,285
賣三明治時
向公眾

2184
01:33:59,329 --> 01:34:02,898
比建築物上的
潛在的世界末日 AGI。

2185
01:34:02,941 --> 01:34:04,682
卡洛琳：
最後一件事是

2186
01:34:04,726 --> 01:34:07,598
來提升我們自己。

2187
01:34:07,642 --> 01:34:09,731
這不是工作
例如安全團隊

2188
01:34:09,774 --> 01:34:11,733
任何特定的實驗室或執行長。

2189
01:34:11,776 --> 01:34:13,299
所以，就像，這是
每個人的工作。

2190
01:34:13,343 --> 01:34:14,779
不要，就像，離開它
由人工智慧專家決定。

2191
01:34:14,823 --> 01:34:16,955
就像，[嗶]那樣。
就像，這一刻

2192
01:34:16,999 --> 01:34:19,262
我們正在轉型
來自，像，

2193
01:34:19,305 --> 01:34:21,525
主要是人類的認知能力
比如說人工智慧的認知能力，

2194
01:34:21,568 --> 01:34:23,092
並且影響著每個人，

2195
01:34:23,135 --> 01:34:24,833
我希望人們成為
參加那次談話。

2196
01:34:24,876 --> 01:34:26,878
我想說，如果你認為
人工智慧會殺死我們所有人，

2197
01:34:26,922 --> 01:34:28,488
你應該在工作
在人工智慧研究領域

2198
01:34:28,532 --> 01:34:30,229
以確保它不會
因為你確實有

2199
01:34:30,273 --> 01:34:32,188
大量的代理商。

2200
01:34:32,231 --> 01:34:33,842
卡洛琳：
無論你是誰，

2201
01:34:33,885 --> 01:34:35,844
你是專家
在自己的行業裡，

2202
01:34:35,887 --> 01:34:39,151
在自己的學校裡，
在自己的家庭裡，

2203
01:34:39,195 --> 01:34:42,589
這取決於你
人工智慧如何應用在你的生活中。

2204
01:34:42,633 --> 01:34:44,983
無論你想加入
你的學校董事會

2205
01:34:45,027 --> 01:34:47,856
或-或者你是否想問
你的雇主

2206
01:34:47,899 --> 01:34:49,379
他們如何使用
人工智慧技術，

2207
01:34:49,422 --> 01:34:51,947
就像，我們所有人都可以完成這項工作。

2208
01:34:51,990 --> 01:34:56,081
已經有很多工會了
非常有效，例如，

2209
01:34:56,125 --> 01:34:59,041
確定他們想要的方式
與這些系統進行互動。

2210
01:34:59,084 --> 01:35:02,697
-護士工會、教師工會。
-[模糊的吟誦]

2211
01:35:02,740 --> 01:35:04,568
丹妮拉·阿莫迪：我會喜歡
如果父母無所不在

2212
01:35:04,611 --> 01:35:06,135
去了AI公司
並說，

2213
01:35:06,178 --> 01:35:08,006
「你怎樣才能變得更好
就這個？ 」包括我們。

2214
01:35:08,050 --> 01:35:11,183
所以，我創立了 Encode Justice
當我15歲的時候。

2215
01:35:11,227 --> 01:35:14,839
我們是世界第一
和最大的年輕人軍隊

2216
01:35:14,883 --> 01:35:18,364
為以人為本而奮鬥
人工智慧。

2217
01:35:18,408 --> 01:35:21,019
你是誰並不重要
即使是最小的行動也會有所幫助，

2218
01:35:21,063 --> 01:35:23,935
甚至對話開始
真的非常非常有價值。

2219
01:35:23,979 --> 01:35:25,937
丹尼爾：
所以我的工作可能是，

2220
01:35:25,981 --> 01:35:27,939
告訴巴比·萊拉這件事
晚餐時？

2221
01:35:27,983 --> 01:35:29,767
卡洛琳：說實話，是的，
這是其中的一部分。

2222
01:35:29,811 --> 01:35:31,638
我們要做的

2223
01:35:31,682 --> 01:35:34,424
很多事情
我們還沒想到。

2224
01:35:34,467 --> 01:35:36,034
人們會看
我們概述的任何內容

2225
01:35:36,078 --> 01:35:37,253
並說：“這還不夠。”

2226
01:35:37,296 --> 01:35:38,950
重要的是力量

2227
01:35:38,994 --> 01:35:40,909
正在工作的
尋求解決方案

2228
01:35:40,952 --> 01:35:44,434
開始超過力量
正在研究解決方案。

2229
01:35:44,477 --> 01:35:46,392
讓世界變得更美好
一直很難。

2230
01:35:46,436 --> 01:35:47,829
這從來都不容易。

2231
01:35:47,872 --> 01:35:49,961
例如，曾經有過
許多糟糕的事情

2232
01:35:50,005 --> 01:35:51,920
歷史上發生過的事，
我們已經——

2233
01:35:51,963 --> 01:35:53,704
就像，人們曾經有過
為了解決這個問題，

2234
01:35:53,748 --> 01:35:56,794
然後他們站了起來
並改變了它。

2235
01:35:56,838 --> 01:36:00,319
有一個瘋狂的數字
我們面臨的挑戰，

2236
01:36:00,363 --> 01:36:04,106
但如果我們能超越他們

2237
01:36:04,149 --> 01:36:08,066
我們可以開啟更遠的未來
我們最瘋狂的想像。

2238
01:36:08,110 --> 01:36:10,416
卡洛琳：
我們必須團結起來

2239
01:36:10,460 --> 01:36:14,246
並找到之間的路徑
承諾與危險。

2240
01:36:14,290 --> 01:36:16,422
我們不能成為悲觀主義者
或樂觀主義者。

2241
01:36:17,423 --> 01:36:19,425
我們必須成為新的東西。

2242
01:36:21,732 --> 01:36:24,474
我的一個朋友打電話給我
一個末日樂觀主義者

2243
01:36:24,517 --> 01:36:26,041
“末日樂觀主義者”？

2244
01:36:26,084 --> 01:36:28,260
我想這可能是
我最喜歡的新詞。

2245
01:36:28,304 --> 01:36:29,914
-[笑]-男人：可能是
這部電影的名稱。

2246
01:36:29,958 --> 01:36:31,263
-可能是名字
這部電影的。 -[笑聲]

2247
01:36:31,307 --> 01:36:34,179
-「末日樂觀主義者」。
-「末日樂觀主義者」。

2248
01:36:34,223 --> 01:36:35,833
是的。

2249
01:36:35,877 --> 01:36:37,269
我不相信厄運。

2250
01:36:37,313 --> 01:36:39,054
我相信生命的精神，

2251
01:36:39,097 --> 01:36:42,666
呃，我相信生活是
關於行動的能力。

2252
01:36:42,709 --> 01:36:44,276
-[人群唱歌]
-建立聯繫的能力，

2253
01:36:44,320 --> 01:36:46,365
感受的能力。

2254
01:36:49,020 --> 01:36:50,979
-[模糊的任務喋喋不休]
-[歡呼]

2255
01:36:51,022 --> 01:36:53,938
我們必須加倍努力
越來越多

2256
01:36:53,982 --> 01:36:57,028
關於這些能力
我們身為人類所擁有的

2257
01:36:57,072 --> 01:37:00,118
那個機器人系統
永遠不會有。

2258
01:37:00,162 --> 01:37:04,296
現在正是時候
做出這些決定

2259
01:37:04,340 --> 01:37:07,473
如何引導和支持
而不是分裂我們。

2260
01:37:07,517 --> 01:37:10,259
丹尼爾：聽起來有點像
撫養一個孩子。

2261
01:37:10,302 --> 01:37:12,435
就是這樣。是的。

2262
01:37:12,478 --> 01:37:14,480
卡羅琳：人工智慧可能有
更多原始情報

2263
01:37:14,524 --> 01:37:17,222
-比我們小小的人類大腦，
-[寶寶笑]

2264
01:37:17,266 --> 01:37:21,052
但我們還有更多
不僅僅是我們的智力。

2265
01:37:21,096 --> 01:37:25,056
情報是-是
解決問題的能力。

2266
01:37:25,100 --> 01:37:28,320
智慧是認識的能力
要解決哪些問題。

2267
01:37:30,932 --> 01:37:33,717
[船員們模糊的交談聲]

2268
01:37:33,760 --> 01:37:34,892
丹尼爾：
它可以放在你的冰箱上。

2269
01:37:34,936 --> 01:37:36,198
[笑]

2270
01:37:36,241 --> 01:37:38,113
尤德科斯基：
所以，不要放棄。

2271
01:37:38,156 --> 01:37:39,766
人類已經做到了

2272
01:37:39,810 --> 01:37:42,160
比這更困難的事情
在它的歷史中。

2273
01:37:43,553 --> 01:37:46,338
只是很難說服
他們應該的人。

2274
01:37:46,382 --> 01:37:48,645
♪ ♪

2275
01:37:51,474 --> 01:37:52,562
[爆裂聲]

2276
01:37:54,912 --> 01:37:56,827
丹尼爾：所以，當我開始時
製作這部電影，

2277
01:37:56,871 --> 01:37:58,437
我會說我就像，

2278
01:37:58,481 --> 01:38:00,918
基本上就是一個憤世嫉俗的混蛋
關於這整件事。

2279
01:38:00,962 --> 01:38:03,094
在課程中
製作這部電影時，

2280
01:38:03,138 --> 01:38:04,661
我漸漸明白了
那個，就像，

2281
01:38:04,704 --> 01:38:07,446
這是唯一的事情
我們不可能。

2282
01:38:07,490 --> 01:38:09,361
……或其他什麼
你想討論一下嗎？

2283
01:38:09,405 --> 01:38:11,363
不，我認為我們涵蓋了很多。

2284
01:38:11,407 --> 01:38:13,017
-是的。 [笑聲]
- 男人：非常感謝。

2285
01:38:13,061 --> 01:38:15,498
謝謝。

2286
01:38:15,541 --> 01:38:16,891
丹尼爾：
這是一個更大的問題

2287
01:38:16,934 --> 01:38:19,067
比任何一個人。

2288
01:38:19,110 --> 01:38:21,547
這將改變世界
我們不理解的方式。

2289
01:38:21,591 --> 01:38:23,462
這都是真的。

2290
01:38:23,506 --> 01:38:25,551
-[笑]：好的。
-[含糊不清的喋喋不休]

2291
01:38:25,595 --> 01:38:27,684
丹尼爾：
但我們確實有代理權

2292
01:38:27,727 --> 01:38:30,078
這就是我們所做的。

2293
01:38:30,121 --> 01:38:32,558
隨著前沿人工智慧的發展
能力呈指數級增長...

2294
01:38:32,602 --> 01:38:34,430
丹尼爾：
而現實

2295
01:38:34,473 --> 01:38:36,562
如果我們決定
是無望的，

2296
01:38:36,606 --> 01:38:39,000
那就沒有希望了。

2297
01:38:39,043 --> 01:38:40,740
....減輕壓力
在地球上...

2298
01:38:40,784 --> 01:38:42,742
丹尼爾：
但如果你決定

2299
01:38:42,786 --> 01:38:45,528
你想嘗試的...

2300
01:38:46,790 --> 01:38:48,096
……那你試試看。

2301
01:38:48,139 --> 01:38:49,967
這很難。

2302
01:38:51,273 --> 01:38:53,188
但你知道嗎？

2303
01:38:53,231 --> 01:38:56,278
大事看似不可能
在它們真正發生之前。

2304
01:38:58,149 --> 01:39:01,413
但當它們最終發生時

2305
01:39:01,457 --> 01:39:05,243
這是因為數以百萬計的人
採取了數百萬次行動

2306
01:39:05,287 --> 01:39:07,550
使它們發生。

2307
01:39:07,593 --> 01:39:10,292
所以...

2308
01:39:10,335 --> 01:39:12,424
我們必須嘗試。

2309
01:39:13,469 --> 01:39:14,905
[重嘆氣]

2310
01:39:21,129 --> 01:39:23,522
事關重大。

2311
01:39:23,566 --> 01:39:25,611
♪ ♪

2312
01:39:32,401 --> 01:39:34,664
[膠卷劈啪聲]

2313
01:39:37,232 --> 01:39:41,236
看看令人難以置信的變化
我們經歷過並倖存下來

2314
01:39:41,279 --> 01:39:42,846
從石器時代開始，

2315
01:39:42,889 --> 01:39:46,110
還有更大的變化
還沒到來。

2316
01:39:46,154 --> 01:39:49,157
[“嘗試失敗”
由 Son Lux 演奏]

2317
01:40:18,403 --> 01:40:20,449
♪ ♪

2318
01:40:47,606 --> 01:40:50,174
♪ 我們現在要做什麼？ ♪

2319
01:40:50,218 --> 01:40:53,221
♪ 我們因嘗試而失敗 ♪

2320
01:40:53,264 --> 01:40:55,092
♪ 我們失去了它 ♪

2321
01:40:55,136 --> 01:40:56,746
♪ 去試試 ♪

2322
01:40:59,575 --> 01:41:02,230
♪ 我們現在要做什麼？ ♪

2323
01:41:02,273 --> 01:41:05,189
♪ 我們因嘗試而失敗 ♪

2324
01:41:05,233 --> 01:41:06,973
♪ 我們失去了它 ♪

2325
01:41:07,017 --> 01:41:08,714
♪ 去試試 ♪

2326
01:41:11,630 --> 01:41:14,111
♪ 現在我們能說什麼？ ♪

2327
01:41:14,155 --> 01:41:17,201
♪ 我們的嘴只是在說謊 ♪

2328
01:41:17,245 --> 01:41:18,637
♪ 我們的嘴 ♪

2329
01:41:18,681 --> 01:41:20,683
♪ 只是說謊 ♪

2330
01:41:25,122 --> 01:41:27,690
♪ 現在我們能說什麼？ ♪

2331
01:41:27,733 --> 01:41:30,823
♪ 我們的嘴只是在說謊 ♪

2332
01:41:30,867 --> 01:41:32,216
♪ 我們的嘴 ♪

2333
01:41:32,260 --> 01:41:34,218
♪ 只是說謊 ♪

2334
01:41:34,262 --> 01:41:36,264
♪ ♪

2335
01:42:01,071 --> 01:42:03,726
♪ 屈服並退出 ♪

2336
01:42:03,769 --> 01:42:06,685
♪ 我們在臨終中崛起 ♪

2337
01:42:06,729 --> 01:42:08,209
♪ 我們崛起 ♪

2338
01:42:08,252 --> 01:42:10,211
♪ 臨終時 ♪

2339
01:42:13,127 --> 01:42:15,781
♪ 屈服並退出 ♪

2340
01:42:15,825 --> 01:42:18,654
♪ 我們在臨終中崛起 ♪

2341
01:42:18,697 --> 01:42:20,221
♪ 我們崛起 ♪

2342
01:42:20,264 --> 01:42:22,223
♪ 臨終時 ♪

2343
01:42:25,051 --> 01:42:27,663
♪ 屈服並退出 ♪

2344
01:42:27,706 --> 01:42:30,666
♪ 我們在臨終中崛起 ♪

2345
01:42:30,709 --> 01:42:32,233
♪ 我們崛起 ♪

2346
01:42:32,276 --> 01:42:34,148
♪ 臨終時 ♪

2347
01:42:37,107 --> 01:42:39,718
♪ 屈服並退出 ♪

2348
01:42:39,762 --> 01:42:42,591
♪ 我們在臨終中崛起 ♪

2349
01:42:42,634 --> 01:42:43,809
♪ 我們 ♪

2350
01:42:43,853 --> 01:42:45,898
♪ ♪

2351
01:43:15,580 --> 01:43:17,626
♪ ♪

2352
01:43:22,761 --> 01:43:25,286
♪ 哦，哦，哦，哦，哦 ♪

2353
01:43:25,329 --> 01:43:26,983
♪ 哦，哦，哦，哦 ♪

2354
01:43:27,026 --> 01:43:28,419
♪ 哦，哦 ♪

2355
01:43:28,463 --> 01:43:31,379
♪ 哦，哦，哦，哦，哦，哦 ♪

2356
01:43:31,422 --> 01:43:32,945
♪ 哦，哦，哦，哦 ♪

2357
01:43:32,989 --> 01:43:34,382
♪ 哦，哦 ♪

2358
01:43:34,425 --> 01:43:37,036
♪ 哦，哦，哦，哦，哦，哦 ♪

2359
01:43:37,080 --> 01:43:39,648
♪ 我們現在要做什麼？ ♪

2360
01:43:39,691 --> 01:43:42,651
♪ 我們因嘗試而失敗 ♪

2361
01:43:42,694 --> 01:43:44,566
♪ 我們失去了它 ♪

2362
01:43:44,609 --> 01:43:46,307
♪ 去試試 ♪

2363
01:43:46,350 --> 01:43:49,005
♪ 哦，哦，哦，哦，哦，哦 ♪

2364
01:43:49,048 --> 01:43:51,703
♪ 我們現在要做什麼？ ♪

2365
01:43:51,747 --> 01:43:54,706
♪ 我們因嘗試而失敗 ♪

2366
01:43:54,750 --> 01:43:56,578
♪ 我們失去了它 ♪

2367
01:43:56,621 --> 01:43:58,406
♪ 去嘗試。 ♪

2368
01:43:58,449 --> 01:44:00,451
♪ ♪

2369
01:44:23,126 --> 01:44:24,475
[歌曲結束]